Дослідження виявило деградацію ШІ через соціальні мережі

Науковці з Техаського університету та Університету Пердью зафіксували ознаки когнітивної деградації у великих мовних моделях, які навчалися на низькоякісному контенті з соцмереж.

Дослідники використали вибірку вірусних постів із X (раніше Twitter) за один місяць. Результати показали:

• здатність до міркувань знизилася на 23%;

• довготривала пам’ять — на 30%;

• рівень нарцисизму та психопатії зріс за особистісними тестами.

Навіть повторне навчання на чистих даних не повернуло моделям початкову когнітивну стійкість. Автори сформулювали гіпотезу «гниття мозку ШІ», згідно з якою постійне споживання «сміттєвого» контенту призводить до стійкого погіршення якості мислення моделей.

Для визначення якості даних дослідники застосували дві метрики:

• M1 (ступінь залученості) — короткі пости з високими показниками лайків і репостів;

• M2 (семантична якість) — тексти з низькою інформативністю або перебільшеними твердженнями.

При збільшенні частки неякісного контенту результати різко падали: ARC-Challenge знизився з 74,9 до 57,2, а RULER-CWE — з 84,4 до 52,3.

Моделі ставали більш самовпевненими в помилкових відповідях і пропускали логічні кроки, віддаючи перевагу поверховим результатам.

Вчені рекомендують:

1. Впровадити регулярний моніторинг когнітивного стану моделей;

2. Посилити контроль якості даних на етапі навчання;

3. Вивчати, як вірусний контент змінює алгоритми ШІ.

Без цих заходів системи ризикують потрапити в цикл самодеградації, поступово втрачаючи здатність до об’єктивного мислення.