Лидеры компаний, работающих в области ИИ, испытывают беспокойство по поводу сценария «Чернобыля для искусственного интеллекта».
Так называют потенциальную серьёзную катастрофу, связанную с ИИ — например, значительную ошибку алгоритма в военных или жизненно важных системах.
Опасение заключается в следующем: если произойдёт заметный инцидент с реальными последствиями, технологии могут стать неприемлемыми для общества и вызвать строгую реакцию со стороны властей.
Чем глубже ИИ внедряется в экономику, безопасность и государственные системы, тем дороже может обойтись одна ошибка.
