Google priznaje problem: AI bezbednost se rešava u hodu

Google Cloud poručuje da AI bezbednost mora da bude ugrađena u sistem od prvog dana, ali praksa pokazuje da ni najveće tehnološke kompanije još nemaju potpuno rešenje.

Tokom jednog događaja u Los Anđelesu, COO Google Cloud-a Francis de Souza govorio je o izazovima sa kojima se firme suočavaju dok ubrzano uvode veštačku inteligenciju u poslovanje. Njegova glavna poruka bila je da industrija trenutno prolazi kroz prelaznu fazu i da će tek vremenom doći do stabilnijih i sigurnijih modela zaštite.

De Souza je istakao da bezbednost ne sme da bude naknadni dodatak AI strategiji. Po njegovom mišljenju, kompanije moraju od početka da grade infrastrukturu koja uključuje kontrolu podataka, upravljanje pristupom i jasna bezbednosna pravila. Posebno je upozorio na problem takozvanog „shadow AI” fenomena, gde zaposleni koriste različite AI alate bez znanja i nadzora kompanije.

Prema njegovim rečima, ozbiljna AI strategija danas ne postoji bez ozbiljne strategije zaštite podataka. Problem dodatno komplikuje činjenica da većina kompanija koristi više cloud platformi, SaaS servisa i partnerskih sistema istovremeno, zbog čega bezbednost mora da funkcioniše kroz različita okruženja.

De Souza tvrdi da su moderni sajber napadi postali toliko brzi da tradicionalni modeli zaštite više nisu dovoljni. Vreme između početnog upada i sledeće faze napada, kako navodi, palo je sa nekoliko sati na svega nekoliko desetina sekundi. Pored mreža i servera, nove mete postaju AI modeli, podaci za obuku, agenti i čak promptovi.

Dodatni rizik predstavljaju AI agenti koji mogu autonomno da pretražuju interne sisteme kompanija. Na taj način lako dolaze do starih servera, zaboravljenih baza podataka i loše zaštićenih repozitorijuma kojima godinama niko nije pristupao.

Zbog toga Google Cloud smatra da odbrana mora da funkcioniše gotovo potpuno automatizovano, uz AI sisteme koji aktivno učestvuju u zaštiti infrastrukture, dok ljudi imaju ulogu nadzora i kontrole. Tema AI bezbednosti tako više nije samo problem IT sektora, već pitanje za kompletan menadžment kompanije.

Ipak, upravo kompanije koje nude AI bezbednosna rešenja pokazuju da ni same nisu imune na propuste. The Register je nedavno pisao o slučajevima u kojima su Google Cloud korisnici dobijali ogromne račune zbog neovlašćenih API poziva prema Gemini AI modelima. U pojedinim situacijama kompromitovani ključevi korišćeni za Google Maps omogućili su troškove od više hiljada dolara.

Google je nekim korisnicima refundirao novac, ali nije promenio praksu automatskog povećavanja limita potrošnje na nalozima. Dodatni problem otkrila je firma Aikido, koja tvrdi da kompromitovani API ključevi mogu ostati aktivni još nekoliko desetina minuta čak i nakon brisanja.

Cela situacija pokazuje koliko je AI bezbednost trenutno kompleksna oblast u kojoj se i najveće kompanije još prilagođavaju novim rizicima. Drugim rečima, svi još traže pravi model zaštite, uključujući i firme koje tu zaštitu prodaju drugima, prenosi TechCrunch.