AI Модели за Сигурност

Google, Microsoft и xAI ще споделят предварителни версии на своите AI модели с правителството, за да се справят с киберзаплахите, обяви Националният институт за стандарти и технологии. Това партньорство идва след нарастващите опасения за въздействието на AI върху киберсигурността, което доведе до разглеждане на формален процес за оценка на AI от Белия дом. Новите споразумения позволяват на Центъра за стандарти и иновации в областта на AI, част от Министерството на търговията на САЩ, да оценява нови AI модели и тяхното въздействие върху националната сигурност и обществената безопасност преди пускането им. Центърът също така ще провежда изследвания и тестове след внедряването на AI модели и вече е извършил над 40 оценки на AI модели. “Независимата, стриктна измервателна наука е от съществено значение за разбирането на напредналите AI и техните последици за националната сигурност. Тези разширени индустриални сътрудничества ни помагат да мащабираме работата си в обществен интерес в критичен момент”, заяви ръководителят на CAISI Крис Фаул в изявление. Според анализатор от Georgetown Center for Security and Emerging Technology, CAISI се нуждае от допълнителни ресурси, за да извърши задълбочени тестове, тъй като големите технологични компании имат значително по-голям достъп до изчислителни ресурси и експертиза. Белият дом разглежда възможността за консултация с група експерти за съвет относно потенциален процес за оценка на нови AI модели, което би представлявало промяна спрямо леко-регулаторния подход на администрацията на Тръмп.