Již nějakou dobu si můžeme všímat humbuku okolo umělé inteligence, respektive ChatGPT. Jedná se o chatovacího robota s umělou inteligencí, jenž dokáže shromáždit užitečné informace a pomoci nám se složitými úkoly. I když shromáždí spoustu dat za neuvěřitelně krátkou dobu, je důležité si tyto informace ověřit. Jaká rizika jsou spojená s chatbotem?
Bezpečnostní rizika
V březnu letošního roku otřásla ChatGPT kauza, kdy si několik uživatelů všimlo nadpisů konverzace, které jim nepatřily. Náhodné sdílení historie chatu uživatelů je docela závažným problémem. Po řadě obvinění z porušování evropských předpisů na ochranu soukromí přistoupila OpenAI ke změnám. Nejprve bylo přidáno věkové omezení, které povoluje používat chatbot pouze osobám starším osmnácti let nebo osobám starším třinácti let se souhlasem opatrovníka.
Není také žádnou novinkou, že veškerou historii chatu si chatbot ukládá. Ještě pár týdnů zpátky probíhala kauza, kdy zaměstnanec Samsungu omylem sdílel data s chatbotem, a odhalil tak některá data společnosti.
Generování špatných odpovědí
Na první pohled vypadají odpovědi chatbotu působivě. Velký výčet informací může uživatele uchlácholit, ale ve skutečnosti jeho odpovědi nemusí být vůbec pravdivé. Například asistenti Siri nebo Alexa ověřují své odpovědi, kdežto ChatGPT vytváří slovo za slovem a k odpovědi dospívá dle odhadů.
Negativní dopad ve světě
Potenciál umělé inteligence je obrovský, co je však znepokojující, to je míra nebezpečí spojená s generováním nebezpečného textu. Útočníci mohou zneužívat chatboty k vytváření phishingových e-mailů nebo malwarů. Úroveň textu je daleko na vyšší úrovni, takže je těžké zjistit, že se opravdu jedná o nebezpečný text. Dříve byly varováním různé gramatické chyby, což nyní nejde moc rozpoznat.
Umělá inteligence je dobrým sluhou, ale zlým pánem. Zatím se potvrdilo, že jeho schopnosti nejsou natolik výborné, aby stály za narušení soukromí a bezpečnosti. Je tedy čistě na vás, zda hodláte využívat služby tohoto klienta.
Zdroj: https://www.opengrowth.com/resources/the-dangers-of-chatgpt-how-it-can-put-you-at-risk
