Živimo u dobu gde AI može uraditi gotovo sve za nas. Ipak, jedno od najvećih pitanja je da li bi trebalo to da dozvolimo. Čak i zanemarujući moralne argumente, veštačka inteligencija je još uvek u ranoj fazi i sposobna je da napravi greške.
To je razlog zašto, kada Microsoft najavi da pravi **AI agente za Windows 11** koji mogu pristupiti datotekama vašeg računara i obavljati radnje u vaše ime, morate biti sigurni da znate tačne posledice. Prema samom Microsoftu, jedna od tih posledica mogla bi biti da AI agent instalira malver na vašem računaru a da vi to i ne primetite.
Microsoft upozorava: AI agenti mogu oštetiti vaš PC
Microsoft je nedavno objavio prilično opširno upozorenje o svojim eksperimentalnim, **agentnim funkcijama** koje planira uskoro da doda u Windows 11. U tom upozorenju, u suštini se kaže da ovi agenti mogu biti kompromitovani. To bi potencijalno moglo dovesti do **izvlačenja i deljenja vaših podataka** sa drugima, ili do **instalacije malvera** bez vaše dozvole.
„Iako se ove mogućnosti uvode, AI modeli i dalje imaju funkcionalna ograničenja. Povremeno mogu da ‘haluciniraju’ i proizvode neočekivane rezultate,“ objašnjava se u upozorenju.
Dodaje se i: „Pored toga, agentne AI aplikacije uvode nove bezbednosne rizike, kao što je **unakrsno ubrizgavanje prompta (XPIA)**. Maliciozni sadržaj ugrađen u elemente korisničkog interfejsa ili dokumente može da nadjača instrukcije agenta. To dovodi do neželjenih radnji poput **ekfiltracije podataka** ili **instalacije malvera**.“
Funkcije su isključene po podrazumevanoj vrednosti
Ovo je prilično zastrašujuća perspektiva. To je razlog zašto su ovi agenti za sada **podrazumevano isključeni**. Ako želite da se igrate sa njima, moraćete ih ručno da ih aktivirate.
Potencijalno dovođenje računara i podataka u rizik samo da bi AI agent obavio neki rutinski posao, po mišljenju mnogih, nije vredno truda. Moguće je da će se ove funkcije u budućnosti podrazumevano uključiti. Međutim, za sada su vaši podaci bezbedni, osim ako ih sami ne dovedete u opasnost.
