Ученые создали социальную сеть из ботов

Исследователи Амстердамского университета смоделировали социальную сеть, полностью заполненную чат-ботами на базе искусственного интеллекта. Эксперимент был призван проверить, можно ли сделать онлайн-пространство менее токсичным.

В ходе работы учёные протестировали шесть стратегий борьбы с токсичностью: хронологическую ленту, усиление разнообразия точек зрения, скрытие социальной статистики и удаление биографий пользователей. Но ни одна из этих мер не показала значимого результата. Более того, некоторые вмешательства усугубили ситуацию: хронологическая лента снизила неравенство внимания, но вывела в топ самый экстремальный контент.

«Токсичный контент формирует сетевые структуры и влияет на видимость постов, создавая замкнутый круг токсичности», — пояснил доцент Петтер Торнберг. Он отметил, что искусственный интеллект не является «идеальным решением», так как воспроизводит человеческие предубеждения и ограничения.

Исследование также показало «чрезвычайное неравенство внимания», когда малая часть публикаций получает максимум охвата. В условиях растущего использования генеративного ИИ для создания контента, нацеленного на максимизацию внимания, это ведёт к усилению поляризации и распространению дезинформации.

По словам Торнберга, современные модели соцсетей могут быть обречены. Даже алгоритмические вмешательства не способны остановить их превращение в рассадники поляризации и экстремизма.
«Мне трудно представить, как традиционные соцсети смогут выжить в таких условиях», — заключил исследователь.