Ким Кардашьян обвиняет ChatGPT в провалах на экзаменах по праву
В интервью Vanity Fair Ким Кардашьян, которая обучается на юриста, рассказала о «токсичной» дружбе с ChatGPT. Она призналась, что провалила экзамены по праву из-за ложной информации, полученной от чат-бота.
«Я использую ChatGPT для получения юридических консультаций. Когда мне нужно узнать ответ на вопрос, я фотографирую материал и загружаю в бот. Но они всегда ошибаются. Из-за этого я проваливаю тесты… Потом я злюсь, кричу на него и говорю: „Ты заставил меня провалиться!“» — рассказала Кардашьян.
ChatGPT склонен к «галлюцинациям»: вместо того чтобы признать, что не может уверенно ответить на запрос, модель генерирует вымышленные ответы. Технология не запрограммирована на определение «правильности» информации — она обучена на огромном объёме данных и предсказывает наиболее вероятный ответ, который не всегда соответствует фактам.
Некоторые юристы были наказаны за использование ChatGPT при написании юридических документов. В их работах обнаруживались ссылки на несуществующие дела.
Кардашьян пытается апеллировать к «чувствам» ChatGPT после его ошибок, хотя это бесполезно, поскольку у чат-бота нет эмоций.
«Я говорю ему: „Ты заставляешь меня провалиться, как ты себя при этом чувствуешь? Ты должен знать ответы!“. А он отвечает: „Это просто учит тебя доверять собственным инстинктам“», — поделилась Кардашьян.
Хотя у ChatGPT нет чувств, у людей они есть, и они могут быть весьма эмоциональными:
«Я постоянно делаю скриншоты и отправляю их в групповой чат с вопросом: „Вы можете поверить, что эта штука так со мной разговаривает?“»