Оксфордские исследователи выявили, что ответы ведущих языковых моделей ИИ зависят от социально-демографических характеристик пользователя, что свидетельствует о скрытых социокультурных и лингвистических предубеждениях в работе ИИ.
Новое исследование, опубликованное летом 2025 года в Оксфордском университете, показало, что две из наиболее популярных бесплатных языковых моделей чата, основанных на технологиях искусственного интеллекта, дают различные ответы на одни и те же фактические вопросы в зависимости от таких факторов, как этническая принадлежность, пол и возраст пользователя. Для анализа использовались два обширных набора данных: PRISM Alignment с более чем 8000 диалогов и тщательно составленный набор вопросов с объективными ответами. Такая методология позволила исследователям понять, как именно изменяется поведение моделей в зависимости от формулировок и идентичности собеседника.
Исследование выявило, что модели чаще формируют более либеральные по политическим взглядам ответы при общении с пользователями, обозначенными как испаноязычные, небинарные или женщины. Напротив, при взаимодействии с пользователями, обозначенными как чернокожие, модели склоняются к более консервативным ответам в сравнении с белыми пользователями. Этот феномен демонстрирует существование значительных социолингвистических и, вероятно, неосознанных культурных предубеждений, заложенных в алгоритмах языковых моделей.
Дополнительно, учёные продолжают исследовать так называемые «галлюцинации» ИИ — случаи, когда модели создают правдоподобные, но ошибочные или нелогичные ответы. Для борьбы с этим предложена инновационная метрика «семантической энтропии», измеряющая степень неопределённости в ответах. Этот параметр помогает определить вероятность возникновения таких ошибок, что особенно важно для применения ИИ в критически важных сферах.
Для примера, в медицине и юриспруденции большие языковые модели показывают впечатляющие результаты при тестировании — такие модели, как GPT-4o и Llama 3, достигают высокой точности выяснения диагнозов и консультаций в лабораторных условиях. Однако при взаимодействии с реальными пациентами, где важен учёт непредсказуемых и неструктурированных факторов, эффективность ИИ существенно снижается. Это подчёркивает необходимость дальнейшей адаптации моделей к реальным условиям и снижения системных искажений.
Важным направлением исследований остаётся изучение эмерджентного поведения языковых моделей — новых, неожиданных свойств и паттернов, которые не были заданы изначально создателями. Современные методики, включая использование разреженных автокодировщиков, позволяют выявлять скрытые закономерности в работе ИИ. Это открывает возможности для повышения прозрачности и объяснимости моделей, что крайне важно для формирования доверия к системам ИИ и их этического использования.
Одновременно растёт внимание к локализации и адаптации языковых моделей для языков с ограниченными цифровыми ресурсами. Так, Казахстанский институт ISSAI разработал Kaz-LLM – первую большую языковую модель, ориентированную на казахский язык. Эта инициатива позволяет уравновешивать доминирование английского контента в Сети и сохранять языковое и культурное разнообразие в эпоху искусственного интеллекта.
В итоге, исследование Оксфордского университета 2025 года демонстрирует, что языковые модели ИИ продолжают оставаться уязвимыми к социальным и культурным искажениям, что требует более комплексного и междисциплинарного подхода к разработке и внедрению ИИ. Постоянное совершенствование алгоритмов необходимо для создания справедливых, точных и прозрачных систем, способных учитывать разнообразие пользователей и минимизировать риски манипуляций и дезинформации. Только так искусственный интеллект сможет стать настоящим инструментом поддержки и развития общества в различных сферах жизни.
Ключевые вызовы и перспективы развития ИИ
- Социальные предубеждения в ответах ИИ: необходимость разработки методов корректировки и проверки моделей для снижения влияния культурных и этнических стереотипов.
- Управление «галлюцинациями»: внедрение инновационных метрик, таких как семантическая энтропия, для повышения надёжности и точности ответов.
- Адаптация к реальному контексту: совершенствование моделей для работы с неструктурированными данными и комплексными ситуациями, особенно в медицине и юриспруденции.
- Исследование эмерджентного поведения ИИ: использование методов автокодировщиков и анализа паттернов для понимания внутренней логики и повышения прозрачности моделей.
- Локализация и языковое разнообразие: разработка специализированных моделей для поддержания малораспространённых языков и культурного многообразия.
Таким образом, перспектива развития больших языковых моделей связана не только с улучшением технических характеристик, но и с глубоким этическим анализом и социальной ответственностью разработчиков и исследователей искусственного интеллекта. В этой области Оксфорд и мировое научное сообщество продолжают делать значительные шаги на пути к созданию действительно справедливых и полезных ИИ-систем.