Алгоритмический сбой в ключевых системах способен вызвать кризис искусственного интеллекта

Лидеры компаний, занимающихся ИИ, испытывают тревогу в связи со сценарием «Чернобыля для искусственного интеллекта».

Так называют потенциальную серьёзную катастрофу, связанную с ИИ — например, значительную ошибку алгоритма в военных или жизненно важных системах.

Опасение заключается в следующем: если произойдёт заметный инцидент с реальными последствиями, технологии могут стать неприемлемыми для общества и вызвать строгую реакцию со стороны властей.

Чем глубже ИИ внедряется в экономику, безопасность и государственные системы, тем дороже может обойтись одна ошибка.

Сбой алгоритма в ключевых системах может привести к кризису искусственного интеллекта