AI žlunga kibernetinėje erdvėje

2022 m. spalį paskelbiau patį gėdingiausią savo karjeros straipsnį, bet po 2 metų pradedu galvoti, kad galėjau būti teisus.

2022 m. vaikščiojant po didžiulę „BlackHat“ pardavėjų salę, kiekvienas prekystalis drąsiai skelbė apie AI. „ AI pagrįsta analizė“, „AI derinimas su aptikimu realiuoju laiku“ ar kitas šūkis. Kaskart, kai kalbate su pardavimų komanda ir paklausite, ką tiksliai padarė jų dirbtinis intelektas, gausite AI žargoną arba teiginį apie slaptas tyrimų grupes požeminiuose Antarktidos saugyklose.

Po to aš užtikrintai paskelbiau straipsnį, kuriame AI vadinamas ne kas kita, kaip BS rinkodara... „BlackHat 2022, daugiau A nei aš“. Pasukite kelis mėnesius į priekį ir ChatGPT buvo išleistas. Staiga AI tapo tikru ir staiga mano puikus straipsnis tapo pokštu ir akivaizdžiai neteisingas.

Tačiau šiais metais pasivaikščiojęs BlackHat 2024 pardavėjų salėje, galbūt nebuvau taip toli.

Neabejotina, kad AI iš tikrųjų yra tikras ir kad jis turi didžiulį potencialą pakeisti kraštovaizdį. Ir daugeliu atžvilgių tai jau yra. Kažkas, ko prieš 2 metus netikėjau. Tačiau vaikščiodami po platų Mandalay Bay salę, skirtą „BlackHat 2024“, vis tiek matote tuos pačius šūkius, o aš vis dar turiu rasti prasmingą AI diegimą saugumo srityje, kurį galėčiau nurodyti, kuris nuotoliniu būdu atitiktų drąsius teiginius.

„Vienas dalykas, kurį pastebėjau [„BlackHat“], buvo tai, kad žmonės pavargo nuo AI“

Ashish Rajan

Kodėl dirbtinis intelektas nebuvo veiksmingas saugumo srityje?

Kad išvengčiau jūsų prieštaravimų, žinau, kad saugos pardavėjai iš tikrųjų naudoja dirbtinį intelektą savo produktuose. Tačiau kol kas nėra jokių žaidimą keičiančių rezultatų, į kuriuos galėtume atkreipti dėmesį, ir daug kas priklauso nuo to, kaip jie įgyvendina AI.

Išleidus ChatGPT ir vėlesnius AI modelius, daugelis pardavėjų suskubo įtraukti šiuos naujus įrankius į savo platformas. Įdiegimas buvo „AI pagrįstos ištaisymo gairės“ ir „papildomas įspėjimų kontekstas“.

Tačiau čia slypi tikrovė: šis diegimas padeda daugiausia pardavėjui, o ne vartotojui. Tai tiesiog reiškia, kad jiems nereikia tiek daug laiko skirti savo dokumentams. Negana to, daugumos komercinių AI modelių kontekstinė informacija visada yra pasenusi bent 2 metus.

Realybė tokia, kad daugelis šio diegimo buvo tiesiog būdas įvykdyti pardavėjų pažadus, susijusius su jų „AI“ varomais produktais.

Kita problema, ribojanti AI galimybes saugumo srityje, yra galimybė mokyti AI modelius naudojant konkrečius saugos duomenis. Tokie modeliai kaip „ChatGPT“ puikiai tinka parodyti, ką gali padaryti dirbtinio intelekto modelis, tačiau jie toli gražu nėra patikimi konkrečiais naudojimo atvejais. Kaip sakė Deanas De Beer „ChatGPT yra puikus plaktukas, [bet] tikrai nerekomenduočiau jo, kai pradedate gaminti produktus ir atlikti didelius uždavinius . Šiuo metu norint parengti į saugumą orientuotą modelį reikia ypatingos skaičiavimo galios ir net jei maža įmonė galėtų nusipirkti pakankamai GPU, kad tai atliktų, kaina būtų astronominė!

„Mes nepasiekėme momento, kai AI yra daugiau nei produkto šalutinis bruožas“

Kalebas Sima

Tai reiškia, kad tik keli dideli žaidėjai turi galimybę įdiegti AI funkcijas, kurios neapsiriboja bendrųjų duomenų siuntimu į bendruosius dirbtinio intelekto modelius. Šiandien dirbtinis intelektas dažniausiai išlieka šalutinis daugelio saugos įrankių bruožas, beveik kaip triukas, kurį rinkodaros komandos gali išsprogdinti.

Kaip teisingai atlikti AI?

Nepaisant viso mano skepticizmo, pripažinsiu, kad yra keletas įdomių AI įgyvendinimų. „SentinelOne“, parduodamas kaip AI saugumo analitikas, tikrai įspūdinga (bent jau demonstracinėje versijoje).

Taigi, kaip galite naudoti AI, ypač jei neturite Formulės 1 komandos biudžeto?

1. Įgalinkite žmones, nesistenkite jų pakeisti Paprasta tiesa yra ta, kad šiuo metu mes nepasitikime ir neturėtume pasitikėti, kad dirbtinis intelektas pakeis žmogų. Jis visada atsiliks, jei negalėsime juo pasitikėti, o jo galimybės yra ribotos. AI yra galingas įrankis, padedantis žmonėms.
2. Sutelkite dėmesį į tai, kas AI šiuo metu yra geras, klasifikacija. Pirminė AI stiprybė buvo klasifikavimas. Galime pateikti daug pažeidžiamumo konteksto AI ir gauti pažeidžiamumo klasifikavimo ir prioritetų nustatymo modelį.
3. Įsitikinkite, kad naudojate tinkamą modelį Kuo DI teikiame pirmenybę, tuo labiau mums reikia modelio, kuris būtų vienodai specializuotas. Patiems mokyti šiuos modelius daugeliui gali būti nepasiekiama. Tačiau yra daugybė modelių, kurie pralenks standartinius plaktukus.

Ar „A“ kada nors bus „aš“ saugume?

Intelektas yra drąsus ir gana dviprasmiškas žodis. Kiekvieną dieną AI vis labiau įsilieja į mūsų kasdienį gyvenimą, o saugos įrankiai turi didžiulį AI potencialą. Neabejoju, kad veiksmingi naujoviški AI diegimai tikrai bus prieinami saugos įrankiuose. Bet mes dar nesame.

Apsaugos pardavėjai daugelį metų plėtojo savo dirbtinio intelekto gebėjimus, o kai „ChatGPT“ metė jiems gelbėjimosi ratą, jie bandė sulenkti įrankius pagal savo šūkius. Realybė tokia, kad veiksmingas įgyvendinimas skirsis nuo to, ką iš pradžių įsivaizdavome. AI bus veiksmingas, kai šūkiai atitiks įrankį, o ne atvirkščiai.