„Може би в момента създаваме свят, в който няма да е безопасно да излезеш навън, защото там може да те преследват рояци роботи.“
Това зловещо предупреждение отправя Джаан Талин, инженер-основател на Skype, в неотдавнашно видеоинтервю за Al Jazeera.
Програмистът е основател на Центъра за изследване на екзистенциалния риск в Кеймбридж и на Института за бъдещето на живота – организации, посветени на изучаването и намаляването на екзистенциалните рискове, особено на тези от развитието на технологиите с изкуствен интелект, пише Insider.
Препратката на Талин към роботите убийци е асоциация с късометражния филм Slaughterbots от 2017 г., който беше пуснат от Института за бъдещето на живота като част от кампания, предупреждаваща за опасностите от въоръжения изкуствен интелект.
Филмът разказва за мрачно бъдеще, в което светът е завладян от милитаризирани дронове-убийци, задвижвани от изкуствен интелект.
С развитието на технологиите за AI, Талин се опасява най-вече от последиците, които военната употреба може да има за бъдещето на изкуствения интелект.
„Използването на AI във военната сфера затруднява контролирането на траекторията му, защото в този момент се намираме в надпревара във въоръжаването.
Когато сте в такава ситуация, нямате много възможности за маневри, особено ако става дума как да подходите към тази нова технология. Просто трябва да отидете там, където са възможностите и където е стратегическото предимство.“, обяснява Талин.
„Естествената еволюция на напълно автоматизираната война ще представлява рояци от миниатюрни безпилотни самолети, които всеки, с достатъчно финансови възможности, може да притежава и да пуска без да поема отговорност.“
Институтът за бъдещето на живота е съгласен с предупрежденията на Талин. Нещо повече – тези опасения не са нови и съществуват от години.
Организацията датира от почти десетилетие и бързо привлича вниманието на личности като Илон Мъск, който през 2015 г. дарява 10 млн. долара на института.
Но напоследък въпросът за могъщата сила на тази технология е много по-належащ, най-вече след пускането на ChatGPT и други модели на изкуствен интелект, достъпни за обществеността, както и с опасенията, че изкуственият интелект ще превземе работните места на хората.
Сега изследователи на AI, технологични магнати, известни личности и обикновени хора са сериозно притеснени. Дори режисьорът на „Опенхаймер“ Кристофър Нолан предупреди, че AI може да достигне своя „момент на Опенхаймер“.
С други думи, изследователите поставят под въпрос своята отговорност за разработването на технологии, които могат да имат непредвидени последици, допълва Insider. Изданието припомня, че по-рано тази година стотици технологични лидери, сред които Илон Мъск, съоснователят на Apple Стив Возняк, изследователи от лабораторията за изкуствен интелект DeepMind на Alphabet и известни професори по изкуствен интелект, подписаха отворено писмо, публикувано от Института за бъдещето на живота, в което се призовава за шестмесечна пауза в разработването на усъвършенстван изкуствен интелект.
(Междувременно Мъск тихомълком се надпреварва да стартира своя инициатива за генеративен AI, за да се конкурира с OpenAI, която той вече представи като проет xAI).
„Усъвършенстваният изкуствен интелект би могъл да представлява дълбока промяна в историята на живота на Земята и следва да бъде планиран и управляван със съответното внимание и ресурси“, се казва в писмото.
„За съжаление, това ниво на планиране и управление не се случва, въпреки че през последните месеци лабораториите се впуснаха в неконтролируема надпревара за разработване и внедряване на все по-мощни цифрови умове, които никой – дори техните създатели, не може да разбере, предвиди или надеждно да контролира. „, алармират още авторите на писмото.
Източникhttps://profit.bg/ai-za-voenna-upotreba-badeshte-v-koeto-nyama-da-e-bezopasno-da-izlezesh-navan/
