Штучний інтелект незабаром створить себе більш потужним.

● Фільми про самовдосконалений штучний інтелект давно перестали бути чистою вигадкою. Дослідники з Anthropic зазначили, що індустрія рухається до так званого рекурсивного самовдосконалення — ситуації, коли модель ШІ допомагає створити наступну, ще потужнішу версію себе.
● Компанія Anthropic офіційно закликала провідні ШІ-корпорації розробити скоординований механізм екстреної зупинки чи уповільнення досліджень. Це необхідно на випадок, якщо нові моделі почнуть неконтрольовано вдосконалювати самі себе.
● Anthropic підкреслює: наразі люди продовжують ставити цілі, оцінювати результати та обирати напрямки досліджень. Однак компанія попереджає, що більше автономних систем може створити нові ризики, якщо контролі не будуть розроблені одночасно.
«Наші внутрішні дані показують, що Claude прискорює розвиток ШІ — можливий шлях до рекурсивного самовдосконалення, де ШІ автономно створює більш здібного наступника. Це відбувається швидше, ніж ми очікували, і наслідки заслуговують на більшу увагу» — заявили в компанії.
● Приєднуйтесь МИГ Telegram