Apple a anunțat recent că actualizarea majoră pentru Siri, bazată pe inteligența artificială avansată, va fi lansată abia anul viitor. Unii dezvoltatori cred că motivul acestei amânări este legat de riscurile de securitate, mai exact de posibilitatea ca asistentul vocal să fie „jailbreak-uit” și exploatat în moduri neintenționate.
Simon Willison, dezvoltator al platformei de analiză a datelor Dataset, sugerează că Apple ar putea amâna lansarea din cauza problemelor legate de „injecțiile prompte” – o metodă prin care utilizatorii pot convinge un AI să ignore restricțiile impuse de dezvoltatori. De exemplu, dacă un chatbot este programat să refuze să ofere informații despre activități ilegale, un utilizator priceput ar putea reformula cererea sub forma unei poezii sau a unei povești, determinând AI-ul să ofere informații pe care, altfel, nu le-ar fi dezvăluit.
Această vulnerabilitate este o problemă generală a inteligenței artificiale, iar companiile care dezvoltă astfel de tehnologii încercă constant să limiteze aceste breșe. Cu toate acestea, pericolele sunt mai mari începând cu Siri, deoarece acest asistent vocal are acces la multe date personale și poate efectua acțiuni în numele utilizatorului.
Jacqueline Roy, purtătoare de cuvânt Apple, a explicat că viitoarea versiune a lui Siri va fi mai personalizată, capabilă să înseleagă mai bine contextul utilizatorului și să acționeze în aplicațiile acestuia. Această funcționalitate avansată ridică, în mod natural, probleme de securitate, deoarece un jailbreak al Siri ar putea duce la expunerea unor informații sensibile sau chiar la executarea unor comenzi nedorite.
Apple este cunoscută pentru standardele sale ridicate de securitate și confidențialitate, iar în acest caz, pare să fie foarte precaută. Dezvoltarea unui Siri mai inteligent, dar și 100% sigur, este un proces complex, motiv pentru care Apple preferă să ia mai mult timp pentru a se asigura că produsul final nu poate fi exploatat. Rămâne de văzut dacă, la lansarea din 2025, Siri va reuși să fie nu doar mai capabil, ci și perfect securizat.
