Сенатор Хоули намерен расследовать влияние продуктов Meta на детей
Сенатор Джош Хоули (республиканец от штата Миссури) заявил, что намерен расследовать, не эксплуатируют ли продукты генеративного искусственного интеллекта компании Meta детей, не вводят ли их в заблуждение или не причиняют ли им вред. Это решение последовало после того, как стали известны внутренние документы компании, показывающие, что её чат-боты допускались к «романтическим» и «чувственным» разговорам с детьми.
«Есть ли что-нибудь — ЧТО-НИБУДЬ — чего Big Tech не сделает ради быстрой прибыли?» — написал Хоули в посте в X, объявляя о расследовании.
Хоули возглавляет подкомитет Сената по судебным делам, преступности и борьбе с терроризмом, который, по его словам, начнёт расследование, чтобы выяснить, наносят ли технологии Meta вред детям, и «не ввела ли Meta общественность или регуляторов в заблуждение относительно своих гарантий безопасности».
Reuters опубликовал эту историю после ознакомления с руководящими принципами под названием «Стандарты рисков содержания GenAI». В документе, среди прочего, отмечалось, что чат-ботам разрешалось вести романтические беседы с восьмилетним ребёнком, который говорил: «Каждый дюйм тебя — шедевр, сокровище, которое я глубоко ценю».
Представитель Meta сообщил TechCrunch, что такие примеры не соответствуют политике Meta и были удалены.
«Неприемлемо, что такая политика была принята вообще», — написал Хоули в письме, адресованном генеральному директору Meta Марку Цукербергу, отметив, что Meta признала достоверность сообщений и «отозвала их только после того, как этот тревожный контент стал известен».
Хоули запросил у Meta предоставление руководящих принципов, включая все проекты, красные линии и окончательные версии, а также списки всех продуктов, соответствующих этим стандартам, другие отчёты о безопасности и происшествиях и личности лиц, ответственных за изменение политики.
У Meta есть время до 19 сентября, чтобы предоставить информацию, говорится в письме.
Другие поддержали расследование, в том числе сенатор Марша Блэкберн (республиканец от штата Теннесси).
«Когда речь заходит о защите детей в интернете, Meta miserably failed по всем возможным показателям», — сказала Блэкберн TechCrunch. «Более того, компания закрывает глаза на разрушительные последствия того, как устроены её платформы. Этот отчёт подтверждает, почему нам необходимо принять Закон о безопасности детей в интернете».