Meta виявила самовдосконалення ІІ - Цукерберг обмежить відкритий доступ до потужних моделей

Дослідники Meta зафіксували перші ознаки того, що системи ШІ вдосконалюють себе без участі людини. Марк Цукерберг — засновник Facebook, Instagram, Threads та WhatsApp — назвав це кроком до штучного суперінтелекту (ASI) — ШІ, здатного перевершити людські когнітивні здібності та вдосконалюватися з експоненціальною швидкістю.

Він пояснив, що розвиток ШІ має три рівні: вузький ШІ, штучний загальний інтелект (AGI) та суперінтелект (ASI). Нині моделі досягають надлюдських результатів лише в окремих галузях. AGI зможе навчатися та адаптуватися, як людина, а ASI значно перевищить людський потенціал і може спричинити «вибух інтелекту».

Цукерберг згадав ідею машини Геделя — теоретичного ШІ, що переписує свій код лише після формального доказу користі змін. У 2024 році американські вчені створили агента Геделя, який показав здатність покращувати результати у програмуванні, науці, математиці та логіці, перевершуючи моделі, створені людьми.

Хоча Цукерберг оптимістично оцінює перспективи ASI, він наголосив, що Meta обмежить публікацію коду найпотужніших систем. Це критично для глобальної безпеки в умовах війни, адже перевага у сфері ШІ може змінити оборонні стратегії.