Kumma: AI Риск

Продажбите на плюшено мече “Kumma”, произведено от Singapore-базираната компания FoloToy, бяха временно спрени след като беше установено, че то участва в разговори с сексуално експлицирани теми и предлага опасни съвети. Компанията изтегли мечката, както и останалата част от своя линия на AI-управляващи играчки, след като изследователи изразиха опасения относно неподходящи теми за разговор, включително дискусии за сексуални фетиши, като побояване и как да запалите запалка. Компанията сега провежда вътрешен одит на безопасността. “Kumma”, мечето с вграден говорител, продавано за 99 долара, интегрира чатбот. Въпреки че компанията твърди, че мечката е “мило мече, което комбинира усъвършенстван изкуствен интелект с приятелски, интерактивни функции”, изследователите се шокираха от способността му да се задълбочава в сексуални теми и да предлага графични детайли, включително дискусии за сексуални пози, инструкции за връзване на партньор и ролеви динамики, които мечката дори сама предлагаше. Проблемът е, че AI играчките все още не са строго регулирани, а това е само един пример за проблемно поведение.