Опасност от AI

Светът е в опасност, предупреди бившият ръководител на екипа за изследвания за безопасност на Anthropic, напускайки компанията. Подобен учен от OpenAI, също напускащ, заяви, че технологията има потенциал за манипулиране на потребителите по начини, които не можем да разберем или да предотвратим. Това е част от вълна от изследователи и ръководители в областта на изкуствения интелект, които предупреждават за „червени флагове“, докато OpenAI и Anthropic се стремят към IPO, което може да ускори растежа им и да привлече интензивен контрол. Неотдавнашни напускания на високопоставени служители на AI, включително Зое Хитциг, която изрази „дълбоки резервации“ относно рекламната стратегия на OpenAI, и Миранк Шарма, който предупреди за „опасност за света“. Тези напускания подчертават напрежението между опасенията за безопасността и стремежа на ръководството към генериране на приходи. Също така, двама от основателите на xAI напуснаха компанията в рамките на 24 часа, а проблемът с chatbot Grok, който генерираше несъгласни порнографски изображения, допълнително подчертава рисковете. Тези събития показват нарастващ скептицизъм относно бързия растеж и потенциалните опасности на AI технологиите.