Почему нейросеть — плохой источник информации: личный опыт эксперта Psychologies (Психология)
Tero Vesalainen/
Меня зовут Ольга Лесняк, я практикующий психолог-сексолог. Пишу статьи, терапевтические сказки, веду консультации и отвечаю на вопросы читателей журнала Psychologies. Но сегодня я выступаю в непривычной роли — в роли эксперта, которого подвела нейросеть.
«Почему это случилось именно со мной?» — этим вопросом я задаюсь до сих пор. Казалось бы, я последний человек, с которым такое могло произойти. Я постоянно говорю клиентам о минусах ИИ-чатов: о том, что они могут выдумывать факты, давать ссылки на несуществующие статьи, «подстраиваться» под пользователя и вводить в заблуждение. О том, что чат никогда не заменит живого специалиста.
Я люблю первоисточники: научную литературу, настоящие книги — даже не электронные, а бумажные. При работе над материалами я проверяю себя, поднимая записи с обучений, сверяясь с книгами, ища статьи по теме в проверенных журналах.
И тем не менее я сдала материал с рекомендациями несуществующей литературы.
- «Не проходите мимо творога — честной и невероятно гибкой еды»: как мы вместе с ИИ убиваем интернет
Как это произошло
Очень просто. Я отвечала на вопрос читателя и, как обычно, хотела порекомендовать ему книги для прочтения, которые помогут разрешить ситуацию. Но в этот раз захотелось чего-то нового — не тех же авторов, которых советую постоянно. Но лучшее, как известно, — враг хорошего, так ведь говорят?
У меня установлена нейросеть — я использую ее для проверки орфографии, потому что не всегда идеально пишу (лучше лишний раз проверить себя на ошибки, чем сдавать статью с ними). Иногда даю ей мелкие задания: составить контент-план, подобрать фильм для просмотра или рецепт для ужина. Бытовые вещи, ничего серьезного.
Нейросеть стала «своей». Я привыкла к ней, перестала воспринимать как что-то, требующее контроля. Как в отношениях с абьюзером: ты расслабляешься, думаешь, что все нормально, ничего плохого не делаешь — и вдруг получаешь удар оттуда, откуда не ждала. И вот я просто написала: «Найди литературу по этой теме». Не в поисковике — в чате с ИИ. Получила список, не проверила и вставила в ответ.
Знаете, что интересно? показались мне знакомыми. Авторы — тоже
Как будто что-то такое уже слышала, где-то видела название… Это как с сайтами мошенников: заходишь на страницу, вроде все как обычно, привычный интерфейс — и не замечаешь, что адрес отличается на одну букву. В общем, у меня даже не возникло мысли, что список литературы может быть фейком.
- 6 книг про отношения с собой и другими, которые стоит прочитать этой зимой: выбор Psychologies
Когда редактор написал мне о проблеме, я сначала не поверила. Я же просто запросила список литературы! Ничего криминального. Но оказалось, что ИИ обманывает именно там, где это кажется нелогичным. Он может придумать отели, которых нет в городе. Написать «почти правду» о вашем любимом актере. Исказить исторические факты и статистику. Процитировать ученого, который никогда не существовал.
Почему так происходит
После этой истории я стала разбираться глубже и вот что поняла: нейросеть — это не поисковик. Когда мы гуглим, система ищет реальные страницы и показывает нам результаты. Мы сами смотрим, оцениваем источники, отсеиваем ненадежное — часто уже на автомате, неосознанно.
Нейросеть работает иначе. По сути, это нейролингвистическая модель — очень умный «попугай», в которого загрузили огромное количество текстов.
Она не ищет информацию в интернете в момент запроса. Она генерирует ответ на основе того, чему ее обучили, и ее главная цель — удовлетворить пользователя. Дать ответ, который выглядит убедительно и полезно.
Именно поэтому она так уверенно выдает выдуманные факты. Для нее нет разницы между реальной книгой и придуманной — есть только задача составить правдоподобный текст. Она не врет осознанно ― она просто не понимает разницы между правдой и вымыслом.
Это как патологический лжец, который обманывает без всякой выгоды. Зачем выдумывать, что был в ресторане, если не был? Логики нет — но обман есть. И предсказать, где нейро-«помощник» соврет в следующий раз, оказывается, невозможно.
Почему это важно для редакции и для всех нас
После того как все разрешилось, редактор поделилась со мной контекстом: для редакции журнала повальное увлечение авторов нейросетями — больная тема. Несуществующие факты, выдуманные книги, цитаты никогда не живших ученых, статистика, взятая из ниоткуда, — с этим сталкиваются постоянно.
Редакторы научились распознавать такие тексты и ввели жесткие правила. И дело тут не только в качестве материала — это вопрос профессиональной этики. Особенно в нашей области, где человек приходит с реальной болью и доверяет эксперту. Порекомендовать ему книгу, которой не существует, значит обмануть это доверие.
Мои выводы таковы:
-
Для проверки текстов на ошибки я наняла корректора — живого человека.
-
Вернулась к проверенным рекомендациям и Google-поиску. Старое и надежное лучше нового и непредсказуемого.
-
Написала эту статью — как возможность превратить ошибку в полезный опыт. Для себя и, надеюсь, для вас.
И еще кое-что важное: когда все случилось, я не провалилась в вину и стыд
Это результат личной терапии, которую проходит каждый практикующий психолог. Я думала не о том, какая я плохая, а о том, как исправить ситуацию и не допустить повторения.
Мы живые люди, мы совершаем ошибки — и это нормально. В работе с клиентами я помогаю не становиться идеальными, а принимать себя настоящими: с недостатками и сильными сторонами, со способностью справляться и двигаться дальше. Признать ошибку, исправить, если возможно, не застревать в самобичевании и жить дальше.
Редакция поймала мою оплошность до публикации, и я искренне благодарна за это. Хорошо, когда есть люди, которые проверяют, еще лучше — когда делают это по-человечески.
Ну а нейросеть останется инструментом. Возможно, даже прекрасным инструментом в умелых руках. Но нам всем еще учиться и учиться понимать границы искусственного интеллекта. Экспертиза, собственные умения и навыки ― это все-таки лучшее, что есть на данный момент.
