Науковці з Університету Бінгемтона (США) продемонстрували, що зловмисники можуть непомітно перепрограмувати роботів на базі великих мовних моделей. Додавши в інструкцію лише одне слово-тригер, вони змусили робота-помічника замість яблука «порізати» макет людської руки.
Приховані слова-тригери можуть зробити роботів із ШІ небезпечними для людей: як це працює
Сподобалась стаття?