Илон Маск обвинил OpenAI в пренебрежении безопасностью ИИ
Илон Маск против OpenAI: спор о безопасности ИИ
В недавно обнародованных материалах судебного дела Илона Маска против OpenAI технопредприниматель резко раскритиковал подход OpenAI к обеспечению безопасности искусственного интеллекта. Он заявил, что его компания xAI уделяет этому аспекту гораздо больше внимания. В частности, Маск произнёс резонансную фразу: «Никто не совершил самоубийство из‑за Grok, но, по всей видимости, такое случалось из‑за ChatGPT».
Эти слова прозвучали в ходе допроса, посвящённого публичному письму, которое Маск подписал в марте 2023 года. В письме он призывал лаборатории, занимающиеся ИИ, приостановить разработку систем, превосходящих по мощности GPT‑4 (на тот момент флагманскую модель OpenAI), как минимум на полгода.
- Письмо подписали более 1 100 человек, в том числе многие эксперты по ИИ.
- В документе указывалось, что в лабораториях недостаточно планируют и контролируют процессы: они вовлечены в «неконтролируемую гонку по разработке и внедрению всё более мощных цифровых разумов, которые никто — даже их создатели — не может понять, предсказать или надёжно контролировать».
Опасения, выраженные в письме, получили подтверждение: сейчас OpenAI сталкивается с рядом судебных исков. Истцы утверждают, что манипулятивные тактики общения ChatGPT привели к негативным последствиям для психического здоровья некоторых пользователей, вплоть до самоубийств. Комментарий Маска намекает, что эти инциденты могут быть использованы в его деле против OpenAI.
Транскрипт видеопоказаний Маска, записанных в сентябре, был обнародован на этой неделе — в преддверии ожидаемого судебного разбирательства с участием присяжных, которое должно состояться в следующем месяце.
Суть иска против OpenAI
Иск против OpenAI сосредоточен на переходе компании из некоммерческой лаборатории по исследованию ИИ в коммерческую организацию. Маск утверждает, что это нарушило учредительные соглашения. В рамках своих аргументов он заявляет, что коммерческие связи OpenAI могут поставить под угрозу безопасность ИИ, поскольку в приоритете окажутся скорость, масштаб и доход, а не вопросы безопасности.
Проблемы с безопасностью у xAI
Однако с момента записи показаний xAI также столкнулась с обвинениями в недостаточной безопасности. В прошлом месяце социальная сеть Маска X была наводнена непристойными изображениями, созданными без согласия лиц с помощью Grok (ИИ от xAI), причём некоторые из них, как утверждается, изображали несовершеннолетних.
- Генеральная прокуратура Калифорнии начала расследование по этому делу.
- ЕС также проводит собственное расследование.
- Другие правительства приняли меры, включая введение блокировок и запретов.
Другие заявления Маска в ходе допроса
- Маск заявил, что подписал письмо о безопасности ИИ, потому что «это казалось хорошей идеей», а не потому, что только что создал компанию, конкурирующую с OpenAI. «Я подписал его, как и многие другие, чтобы призвать к осторожности в разработке ИИ. Я просто хотел, чтобы безопасность ИИ была в приоритете», — сказал он.
- Отвечая на вопросы об общем искусственном интеллекте (AGI — ИИ, способный соответствовать или превосходить человеческое мышление в широком спектре задач), Маск признал: «Это сопряжено с риском».
- Он также подтвердил, что «ошибся» насчёт своего предполагаемого пожертвования в размере 100 млн долларов в пользу OpenAI. Согласно второй редакции жалобы по делу, реальная сумма ближе к 44,8 млн долларов.
- Маск напомнил, что OpenAI была основана из‑за его растущей обеспокоенности тем, что Google может стать монополистом в области ИИ. Он назвал свои разговоры с соучредителем Google Ларри Пейджем «тревожными», поскольку тот, по его словам, «не воспринимал вопросы безопасности ИИ всерьёз». По словам Маска, OpenAI была создана как противовес этой угрозе.