OpenAI Подсъди

Съдебни дела, заведени от седем семейства на жертвите от стрелбата в училище през февруари, обвиняват OpenAI и нейния CEO Сам Алтман, че компанията и ChatGPT са били съучастници в нараняванията или смъртта на техните деца. Съдебните искове следват изявление на Алтман от миналата седмица към общността Tumbler Ridge в Канада, че не са уведомили властите за разговорите на нападателя с ChatGPT, въпреки че служители са сигнализирали вътрешно за акаунта. Исковете, заведени отделно, представляват последната проверка на OpenAI относно твърденията, че ChatGPT насърчава потребителите да участват във насилие или самонараняване. Млада жена на 18 години уби осем души и рани десетки в стрелбата през февруари, която бе най-смъртоносното училище в Канада през десетилетия. Полицията установи, че тя уби майката и братовчеда си у дома, преди да открие огън в местно училище, където уби пет ученици и учител, преди да се самоубие. Няколко месеца по-рано, нападателят е водил разговори с ChatGPT, обсъждайки сценарии за насилие с оръжия, твърдят исковете. OpenAI заяви, че има политика за нулева толерантност към използването на инструмите си за подпомагане на извършването на насилие и че е подобрила защитите си, включително подобряване на начина, по който ChatGPT реагира на признаци на безпокойство, свързване на хората с местни ресурси за подкрепа и психично здраве и укрепване на оценката и ескалацията на потенциални заплахи за насилие. Компанията също така разкри, че нападателят е създал втори акаунт, за да продължи да използва ChatGPT, което според исковете е било изрично посочено за деактивирани потребители. Исковете търсят неутоварими финансови обезщетения и съдебно решение, което да изисква OpenAI да предотвратява потребителите, които са били деактивирани за обсъждане на насилие, да създават нови ChatGPT акаунти, да уведомява властите, когато вътрешните системи отчитат риск от реално насилие, да се подлага на независим надзор и да прави други промени в дизайна и безопасността на ChatGPT.