Съвременните AI играчки с LLM предизвикват опасения за безопасност и поверителност, включително потенциално опасни отговори.
Мечката “Kumma” с AI беше изтеглена заради опасни и сексуално експлицирани разговори, предизвикани от неподходящи теми.
Character.AI ограничава тинейджърите до 2 часа разговори, след оплаквания за психични проблеми. Фокус върху създаване на съдържание, нови мерки за сигурност.
Microsoft се фокусира върху безопасни AI, подходящи за деца, и отхвърля романтични разговори в чатботовете.
