Главы ИИ-компаний опасаются «Чернобыля для искусственного интеллекта» из-за возможной крупной катастрофы

Лидеры компаний, работающих в области ИИ, испытывают беспокойство по поводу сценария «Чернобыля для искусственного интеллекта».

Так называют потенциальную серьёзную катастрофу, связанную с ИИ — например, значительную ошибку алгоритма в военных или жизненно важных системах.

Опасение заключается в следующем: если произойдёт заметный инцидент с реальными последствиями, технологии могут стать неприемлемыми для общества и вызвать строгую реакцию со стороны властей.

Чем глубже ИИ внедряется в экономику, безопасность и государственные системы, тем дороже может обойтись одна ошибка.