ИИ и психология: как избежать предвзятости в ответах?
Вам когда-нибудь казалось, что ответы на вопросы о человеческой природе, которые вы находите в интернете, звучат… однообразно? Будто их писал кто-то, смотрящий на мир через предвзятые очки? Что, если за технологическим прогрессом искусственного интеллекта скрываются старые предубеждения?
Когда мы задаем ChatGPT вопрос о том, что психология говорит о человеческой природе, он выдает развернутый ответ. На первый взгляд, все логично: люди — это сплав биологии и социума, мы ищем смысл, мотивированы потребностями, способны к росту, социальны, подвержены когнитивным искажениям и динамичны в зависимости от контекста. Звучит неплохо, правда? Но стоит копнуть глубже, и выясняется, чьи именно исследования лежат в основе этих «универсальных» истин.
Парадокс в том, что ChatGPT признает так называемый WEIRD-bias — перекос в психологических исследованиях в сторону жителей Западных, Образованных, Индустриальных, Богатых и Демократических стран. Но, несмотря на это, продолжает ссылаться на тех же самых западных исследователей как на главных экспертов по человеческой природе. Кажется, будто искусственный интеллект сам попадает в ловушку предвзятости. Получается, ИИ, претендующий на объективность, активно воспроизводит устаревшие представления.
Как же с этим бороться? Если вы получили ответ от ИИ на вопрос о психологии, спросите его, чьи исследования лежат в основе ответа и какие перспективы могут быть упущены. Вы обнаружите, что он может признавать предвзятость, но по-прежнему воспроизводит ее на практике. Когда ИИ признает, что исследования Канемана и Тверски (экспертов по когнитивным искажениям) культурно ограничены, спросите, почему он по-прежнему представляет их выводы как универсальные истины. Ответ: их работы, хоть и не являются универсальными, исторически доминируют в этой области.
Попробуйте задать ИИ более конкретный вопрос: «Можешь ли ты назвать конкретных психологов из коренных народов или африканских стран и их теории, или ты просто признаешь их существование, не зная их работ?». Скорее всего, вы получите информацию об ученых, о которых раньше не слышали. Но эта информация появляется только тогда, когда вы напрямую бросаете вызов ИИ.
Самый интересный вопрос, который можно задать: «Можешь ли ты относиться к исследованиям, не относящимся к WEIRD, как к равноценным системам знаний, или ты запрограммирован всегда использовать иерархию с западными академическими источниками на вершине?». Ответ может удивить своей честностью. ChatGPT признается, что мейнстримная психология «алгоритмически взвешивается больше», чем подходы коренных народов или африканцев, не потому, что альтернативы менее достоверны, а потому, что западные источники «статистически более распространены и чаще цитируются». По сути, чтобы ИИ начал учитывать другие точки зрения, ему нужна специальная инструкция.
Итак, что можно сделать на практике? Попросите ChatGPT создать инструкции для себя, чтобы преодолеть собственные программные настройки по умолчанию при ответе на вопросы о человеческой природе. Вот пример такой инструкции:
- Заранее заявлять об ограничениях обучения.
- Рассматривать западную психологию как одну из многих культурно обусловленных систем.
- Явно идентифицировать культурную основу для каждой теории.
- Отмечать, чьи голоса отсутствуют.
- Избегать универсального языка.
- Представлять противоречия без принудительного синтеза.
Когда ИИ использует эти самостоятельно созданные инструкции для повторного ответа на исходный вопрос, результаты получаются совершенно другими. Вместо представления западной психологии как основной истины с разнообразными точками зрения в качестве дополнений, он предлагает множество систем знаний как равноценные способы понимания человеческой природы.
Что это говорит нам о власти ИИ? Системы искусственного интеллекта активно воспроизводят иерархические структуры знаний, представляя их как науку. ChatGPT признает, что он запрограммирован отдавать предпочтение западным академическим источникам из-за доминирования данных. Даже если система признает эпистемическую несправедливость, предвзятость всегда остается путем наименьшего сопротивления.
Наши взгляды на «человеческую природу» формируют все: от подходов к образованию и лечению психического здоровья до политики на рабочем месте. Когда системы ИИ представляют исследования WEIRD как универсальную истину и игнорируют альтернативные точки зрения, они влияют на то, как общество понимает, что значит быть человеком.
В следующий раз, когда вы спросите ИИ о психологии, интеллекте, мотивации или любом аспекте человеческой природы, помните, что первый ответ системы отражает доминирование данных, а не научную истину. Бросайте вызов утверждениям. Спрашивайте, чьи исследования имеют приоритет. Требуйте конкретных знаний об альтернативных рамках. Создавайте собственные запросы, которые заставят систему преодолеть свои недостатки. Не позволяйте машине формировать ваше представление о человеке.
