Возражение против проведения испытаний на безопасность Возражение против тестирования на безопасность предполагает, что искусственный интеллект может быть протестирован в ограниченных условиях перед выпуском в дикую природу, гарантируя, что он не представляет экзистенциального риска. Однако этот аргумент не учитывает несколько возможных сценариев, в которых обобщение, основанное на внешнем поведении, может оказаться неадекватным.

Проблема с изменением контекста Наблюдение за внешним поведением слабого ИИ не гарантирует его хорошую производительность при усилении из-за проблем с изменением контекста. Предсказуемые причины, по которым нежелательное поведение системы впервые проявится после оценки систем принятия решений по более широкому спектру стратегий или достижимых результатов, могут вызвать проблемы.