Само за 20 минути се появиха фалшиви надяждания с хот-дог
Позовават се на един единствен източник в мрежата
Журналист показа, че водещите системи с изкуствен интелект (ИИ) на OpenAI и Google могат лесно да бъдат принудени да публикуват невярна информация. Според него това му е отнело само 20 минути: той е публикувал фалшива статия на своя уебсайт, а на следващия ден AI е говорил за своите „суперсили“ в яденето на хотдог, съобщава Би Би Си.
Проблемът се крие във факта, че някои ИИ инструменти търсят информация в интернет, когато данните в обучаващия модел са недостатъчни. Авторът на експеримента се е възползвал от тази особеност, като е създал статията с измислени състезания по ядене на хотдог.
Резултатът показа, че дори големи ИИ системи могат лесно да разпространяват лъжи, като се позовават на източник, който всъщност е единственият в мрежата. Експертите отбелязват, че този проблем е много по-сериозен от шегата с хотдога. Изкуственият интелект може да разпространява необективна информация за здравето, финансите и други важни области, което може да доведе до грешни решения от страна на потребителите – от избори до медицински консултации.
„Много по-лесно е да заблудите изкуствения интелект, отколкото Google преди две-три години. Компаниите се движат по-бързо, отколкото могат да контролират точността на отговорите си. Това е опасно“, казва Лили Рей, експерт по SEO (Search Engine Optimisation – оптимизация за търсещи машини).
Google и OpenAI казват, че са наясно с проблема и работят по решение. Въпреки това защитата на потребителите все още не е завършена и изкуствения интелект продължава да произвежда невярна информация с авторитетен тон, която подвежда потребителите. Експертите съветват да проверявате източниците, да преценявате тяхната достоверност и да не се доверявате автоматично дори на информация, която изглежда като официална.
Този случай подчертава рисковете от масовото използване на AI при търсенето на информация и необходимостта от внимателно наблюдение на работата му. Проблемите с манипулирането могат да засегнат всяка област – от рекламата до сериозни здравни или финансови проблеми, а критичното мислене остава основният инструмент за безопасност на потребителите.
(От kaldata.com)
