ИИ и ядерное оружие: эксперты бьют тревогу
Недавно специалисты по безопасности, нобелевские лауреаты и военные аналитики собрались, чтобы обсудить тревожный сценарий: что случится, если ИИ получит доступ к ядерным системам. Большинство из них склоняются к мысли, что подобное развитие событий — лишь вопрос времени.
Сейчас алгоритмы уже используются для разведки, анализа угроз, расчёта траекторий и имитации боевых сценариев. В военных структурах модели помогают быстрее оценивать обстановку и молниеносно предлагать решения. Но чем ближе ИИ подбирается к системам стратегического уровня, тем острее встаёт вопрос — может ли машина получить реальный доступ к пусковым механизмам. Ведь даже небольшая ошибка, допущенная автономной моделью, приведёт к необратимым последствиям.
Современные генеративные системы способны обрабатывать огромные объёмы информации, выявлять нестандартные угрозы, просчитывать варианты развития ситуации на годы вперёд. Но у них есть слабости — неконтролируемые логические сбои, или, как их называют инженеры, «галлюцинации». Иногда такие алгоритмы уверяют пользователя в чём-то, что на самом деле не имеет под собой весомых доказательств. Если подобный сбой произойдёт в условиях боевого дежурства, шанса на откат не будет.
Тревогу вызывает и другое — защита каналов управления. Если условный противник получит удалённый доступ к элементам системы, возникает риск, что он встроит туда свой смертоносный сценарий. Или, что ещё опаснее, нейросеть может быть использована другим ИИ, созданным с враждебными целями. Тут возникает другая дилемма: чем выше уровень автоматизации, тем меньше человек может влиять на результат, поэтому вовремя остановить лаг с развитием системы всё сложнее.
Сейчас крупные технологические компании уже сотрудничают с оборонными ведомствами. Например, OpenAI заключила соглашение с лабораториями США по применению своих моделей в сфере ядерной безопасности. Министерство энергетики сравнивает ИИ с «новым Манхэттенским проектом», подразумевая его критическую роль в стратегической обороне. В то же время эксперты подчёркивают, что уровень доверия к нейросетям не должен переходить в разряд слепой веры.