Кто проверит безопасность передовых моделей ИИ

Главное

Scientific American рассматривает предложение привлечь внешних специалистов к оценке самых мощных моделей. Такой аудит мог бы сделать заявления разработчиков о рисках и темпе развития проверяемыми третьей стороной.

Проблема не сводится к назначению аудитора. Нужно определить объём его доступа, независимость, методику проверки и последствия обнаруженных рисков. Возможности моделей меняются быстро, а общепринятые процедуры их оценки ещё формируются.