Кореспонденцията с ChatGPT може да доведе до сериозни последици за потребителите – информацията от разговорите може да бъде изискана по съдебен път или използвана срещу дадено лице. Ето кои са петте ситуации, при които споделянето на лични данни с изкуствения интелект носи най-голям риск:
Пароли, номера на документи и данни за достъп
Най-големият риск за личната сигурност възниква, когато потребителите споделят поверителна информация с чатбота – пароли, еднократни кодове за потвърждение, номера на паспорти, данни за банкови карти или снимки и сканирани копия на документи.
Основни заплахи за личните данни:
Съхранение по подразбиране: ChatGPT запомня предоставената информация по подразбиране – тя може да бъде съхранена на сървърите или неочаквано да се появи в чатовете на други потребители.
Индексиране от търсачките: Миналия юли близо 4500 частни чата се появиха в резултатите от търсенето в Google поради случайно активирана функция за публичен достъп.
Съдебни разпореждания: В рамките на дело за нарушение на авторски права OpenAI беше задължена да запази абсолютно всички потребителски чатове, включително изтритите и временните, което ги прави потенциално достъпни за трети страни.
Конфиденциална служебна информация и изходен код
Качването на служебни документи или изходен код в чужди платформи представлява пряка заплаха за корпоративната сигурност и е официално основание за уволнение.
Гръмки случаи на изтичане на служебни данни:
Скандалът в Министерството на вътрешната сигурност на САЩ (DHS): Мадху Готумукала, бивш изпълняващ длъжността директор на Агенцията за киберсигурност и инфраструктурна сигурност на САЩ, качи документи с гриф „само за служебно ползване“ в публичната версия на ChatGPT.
Забраната в Samsung: Южнокорейският технологичен гигант напълно забрани използването на генериращ изкуствен интелект, след като инженери поставиха вътрешен изходен код в чата.
Правен статус: Данните, изпратени към външни сървъри, се изтриват трудно, а кореспонденцията може да бъде използвана за обучение на бъдещи AI модели.
Медицински съвети и самолечение
Обновените правила на OpenAI изрично забраняват използването на услугата за медицински консултации, тъй като компанията не подлежи на законите за опазване на медицинската тайна (като HIPAA в САЩ).
Опасности от медицинските консултации с AI:
Липса на защитни бариери: Изследване на Североизточния университет (Northeastern University) показва, че системите за сигурност на изкуствения интелект не се задействат при запитвания, свързани с хранителни разстройства, безсъние или биполярно разстройство.
Фатални грешки: 60-годишен мъж прекара три седмици в болница, след като ChatGPT му препоръча да замени готварската сол с токсичен натриев бромид, за да намали нивата на хлорид в диетата си.
Психологическа подкрепа и терапия
Според оценки на OpenAI около 0,15% от седмичната аудитория на чатбота показва признаци на потенциално планиране на самоубийство, докато стотици хиляди други се намират в състояние на психоза или мания.
Защо изкуственият интелект не може да замени терапевта?
Съдебни дела: Родителите на 16-годишния Адам Рейна заведоха дело срещу OpenAI, обвинявайки чатбота, че е засилил самоубийствените мисли на сина им преди смъртта му.
Засилване на заблудите: Алгоритмите са склонни да ласкаят и да потвърждават вярванията на потребителя – това може да затвърди натрапчиви и илюзорни идеи, вместо да ги коригира.
Законови ограничения: Щатите Илинойс, Невада и Мейн вече приеха закони, които изрично забраняват на AI да предоставя терапевтични услуги или да взема медицински решения.
Правни консултации и съдебни дела
Според изследователя Дамиен Шарлотен над 2000 съдебни решения по света вече съдържат измислени цитати, казуси или аргументи, генерирани от ChatGPT.
Рискове от използването на AI в правната сфера:
Съдебни глоби: Съдиите започват активно да глобяват както ищци, представляващи сами себе си (1175 случая), така и професионални адвокати (815 случая) за използване на фалшифицирани от AI материали.
Липса на адвокатска тайна: Всички подробности по даден казус, въведени в ChatGPT, не са защитени от закона и могат да бъдат изискани от насрещната страна по време на съдебно производство.
