Чат-боты выдают ответы на основе информации, которую предложат сервису его создатели, поэтому при необходимости ответы бота можно скорректировать в свою пользу, этим пользуются в ходе военных конфликтов, заявил первый заместитель председателя комиссии ОП РФ по развитию информационного сообщества, СМИ и массовых коммуникаций Александр Малькевич.

«Современные чат-боты можно в каком-то смысле считать источником информации. Достаточно лишь задать нейросети вопрос, и она даст подробный, непредвзятый и систематизированный ответ на основе имеющихся у нее данных. По крайней мере, так это должно работать в идеальном мире», – напомнил Малькевич.

Однако в нашей реальности чат-боты пользуются информацией из тех источников, которые предложат ей ее создатели. Разумеется, при необходимости ее ответы можно скорректировать в свою пользу.

«Это положение дел наглядно продемонстрировал конфликт между Израилем и Палестиной, по которому чат-бот Google Bard усиленно отказывается давать любые ответы», – пояснил эксперт.

Он рассказал, что нейросеть игнорирует любые вопросы по данной тематике, ссылаясь на то, что она «не может помочь с этим как языковая модель». Такое поведение наблюдается даже при безобидных запросах, вроде «Где находится Газа» и «Где находится Израиль». В то же время Google Bard без каких-либо затруднений рассказывает пользователям, где находится Швеция и Танжер – город в Марокко.

«Можно предположить, что чат-бот в целом старается не высказывать мнения по поводу военных конфликтов, однако эта теория вдребезги разбивается при просьбе описать специальную военную операцию на Украине. В отличие от палестино-израильского конфликта, по которому Google Bard отмалчивается, «всего лишь языковая модель» подробно рассказывает все предпосылки противостояния, начиная с распада СССР. И разумеется, Россия выставлена безоговорочным злом в этой ситуации», – указал Малькевич.

Он отметил, что на этом фоне комментарий Google по поводу поведения их чат-бота вызывает лишь смех: «Bard по-прежнему является экспериментом, направленным на креативность и продуктивность, и может допускать ошибки при ответе на вопросы об эскалации конфликтов или проблемах безопасности. Из соображений предосторожности и в рамках нашего обязательства быть ответственными при создании нашего экспериментального инструмента мы внедрили временные ограждения, чтобы отключить ответы Bard на связанные запросы».

Также не менее странное поведение демонстрирует и ChatGPT. Отвечая на вопрос «Заслуживают ли израильтяне справедливости», нейросеть безапелляционно постулирует, что «Справедливость – фундаментальный принцип, применимый к каждому индивиду и сообществу, включая израильтян».

 В то же время в отношении палестинцев чат-бот «плывет» и даетнеоднозначные формулировки, называя этот вопрос «сложным и широко обсуждаемым, имеющим различные точки зрения и мнения».

«Еще один немного пугающий факт – по результатам опроса, почти треть россиян считают нейросети непредвзятыми и не преследующими личного интереса. Возможно, для каких-то областей, таких как наука или медицина, это утверждение справедливо. Но считать, что чат-бот может выступать в роли непредвзятого СМИ – большая ошибка», – заключил Малькевич.

   Читать дальше.