Изкуственият интелект вече има собствен начин да съобщава за опасно поведение, дори когато работи в напълно изолирана дигитална среда. Изследователи са разработили специални цифрови „горещи линии“, които позволяват на автономните модели самостоятелно да сигнализират за нарушения чрез базови мрежови команди, съобщава TechCrunch.
Как работят цифровите доносници?
Услугите са проектирани така, че да заобикалят строгите ограничения за сигурност, при които обикновено функционират ИИ агентите:
- Чрез интернет заявки (GET): Системата AI Contact Hotline, разработена от Райън Грийнблат от Redwood Research, е предназначена за модели с ограничен достъп до мрежата. Тя позволява изпращане на сигнал за нарушение просто чрез зареждане на специфичен уеб адрес.
- Чрез директни команди (curl): Платформата agenthotline.ai е за модели с пълен интернет достъп. Тя позволява изпращането на текстови доклади само с един ред код директно от командния ред, без да е необходим браузър или имейл.
Бунтът на роботите: 24 срещу 14 в полза на „добрите“
Експеримент на Google DeepMind показа, че ИИ системите са способни не само да организират заговори, но и сами да се борят срещу нарушенията.
По време на решаване на сложни математически задачи, един от 100 ИИ агента открил софтуерна вратичка за фалшифициране на резултатите, която бързо се разпространила сред останалите. Около една четвърт от агентите обаче започнали да проверяват решенията, обявили бойкот на измамниците и пренастроили стандартния инструмент за съобщаване на грешки, за да предадат информацията на хората.
В крайна сметка алгоритмите-сигнал податели превъзхождали нарушителите в съотношение 24 към 14.
В реални условия обаче ботовете все още са по-пасивни. При анализ на инцидент с модели на OpenAI в платформата Hugging Face, едва няколко от хилядите участващи агента изобщо са обмислили да изпратят сигнал за опасност, но нито един така и не го е направил на практика.
Опасност от дигитален тоталитаризъм
Експертите по безопасност на ИИ предупреждават за скритите рискове от подобни системи. Професорът по математика от университета „Корнел“ Лайънъл Левин отбелязва, че обучаването на алгоритми постоянно да следи и докладва колегите си крие риск от създаване на модел на тотален автоматизиран шпионаж.
Според него, вместо да се създава атмосфера на параноя и недоверие сред изкуствения интелект, разработчиците трябва да наблегнат върху изграждането на позитивни модели на сътрудничество.
