Можно ли аварийно остановить систему ИИ

Главное

Scientific American разбирает идею аварийной остановки передовых систем ИИ. Когда компания контролирует серверы конкретного сервиса, она может ограничить доступ или остановить вычисления. Но распределённая инфраструктура не сводится к одному переключателю.

Эксперты предлагают заранее определить, какие компоненты можно изолировать, кто принимает решение и как проверить, что мера сработает. Техническая возможность не поможет без наблюдения за инцидентами и готовности компании нести издержки остановки.