KI misluk in kuber

In Oktober 2022 het ek die mees verleentheid artikel van my loopbaan gepubliseer, maar 2 jaar later begin ek dink ek was dalk reg.

Elke stalletjie het in 2022 deur die kolossale verkopersaal by BlackHat gestap en 'n dapper bewering oor KI gemaak. " AI-aangedrewe analise", "Kombinering van KI met intydse opsporing" of 'n ander slagspreuk. Wanneer jy ook al met die verkoopspan praat om te vra presies wat hul KI gedoen het, kry jy óf 'n opeenvolging van KI-jargon óf 'n eis oor geheime navorsingspanne in ondergrondse kluise in Antarktika.

Daarna het ek met selfvertroue 'n artikel gepubliseer waarin AI niks anders is as bemarking van BS nie ... "BlackHat 2022, meer A as ek". Vinnig 'n paar maande vorentoe en ChatGPT is vrygestel. Ewe skielik het KI werklik geword en skielik was my briljante artikel 'n grap, en blatant verkeerd.

Maar, nadat ek vanjaar deur die BlackHat 2024-verkopersaal gekuier het, was ek dalk nie so ver nie.

Dit is onmiskenbaar dat KI inderdaad werklik is, en dat dit groot potensiaal het om die landskap te verander. En in baie opsigte het dit reeds. Iets wat ek 2 jaar gelede nie geglo het nie. Maar terwyl jy deur die uitgestrekte sale van Mandalaybaai stap vir BlackHat 2024, sien jy steeds dieselfde slagspreuke en ek het nog nie 'n betekenisvolle implementering van KI in sekuriteit gevind waarna ek kan wys wat op 'n afstand ooreenstem met die gewaagde aansprake nie.

"Een ding wat ek opmerk [in BlackHat] was dat mense moeg was vir KI"

Ashish Rajan

Waarom kon KI nie effektief wees in sekuriteit nie?

Om u besware te voorkom, is ek bewus daarvan dat sekuriteitsverkopers inderdaad KI binne hul produkte gebruik. Maar tot dusver is daar geen spelveranderende resultate waarna ons kan verwys nie, en baie hiervan kom neer op hoe hulle KI implementeer.

Na die vrystelling van ChatGPT en die daaropvolgende KI-modelle, het baie verkopers gehaas om hierdie nuwe instrumente by hul platforms te voeg. Die implementering daarvan was 'KI-aangedrewe remediëringsriglyne' en 'bykomende konteks rondom waarskuwings'.

Maar hier is die realiteit hieragter: daardie implementering help meestal die verkoper nie die gebruiker nie. Dit beteken eenvoudig dat hulle nie soveel tyd aan hul dokumentasie hoef te spandeer nie. Nie net dit nie, kontekstuele inligting is altyd ten minste 2 jaar verouderd vir die meeste kommersiële KI-modelle.

Die realiteit is dat baie van hierdie implementering bloot 'n manier was om verskaffers se beloftes agter hul 'KI'-aangedrewe produkte na te kom.

Nog 'n probleem wat KI se vermoë binne sekuriteit beperk, is om KI-modelle op spesifieke sekuriteitsdata op te lei. Modelle soos ChatGPT is wonderlik om te wys wat 'n KI-model kan doen, maar is ver van betroubaar vir spesifieke gebruiksgevalle. Soos Dean De Beer gesê het op die "ChatGPT is 'n goeie hamer, [maar] ek sal dit beslis nie aanbeveel wanneer jy begin om te produseer en take op skaal uit te voer nie." Opleiding van 'n sekuriteit-gefokusde model benodig tans buitengewone rekenkrag en selfs al - en dit is 'n groot as - 'n klein maatskappy genoeg GPU's kan koop om dit uit te voer, sal die koste astronomies wees!

"Ons het nog nie die oomblik bereik waar KI meer as 'n produk-sykenmerk is nie"

Kaleb Sima

Dit beteken slegs 'n paar groot spelers het die vermoë om KI-kenmerke te implementeer wat verder gaan as die stuur van generiese data na generiese KI-opgeleide modelle. Vandag bly KI meestal 'n bykenmerk in die meeste sekuriteitsinstrumente, amper 'n foefie wat bemarkingspanne die wêreld in kan blaas.

Hoe kan jy KI reg doen?

Ten spyte van al my skeptisisme, sal ek erken dat daar 'n paar interessante implementerings van KI is. deur SentinelOne, bemark as 'n KI-sekuriteitsontleder, is beslis indrukwekkend om in aksie te sien (ten minste in 'n demo).

So, hoe kan jy KI gebruik, veral as jy nie die begroting van 'n Formule 1-span het nie?

1. Bemagtig mense, moenie probeer om hulle te vervang nie Die eenvoudige waarheid is dat ons op die oomblik nie KI vertrou om 'n mens te vervang nie. Dit sal altyd agter wees as ons dit nie kan vertrou nie, en sy vermoë is beperk. KI is 'n kragtige hulpmiddel om mense te help.
2. Fokus op dit waarmee KI tans goed is, klassifikasie. Die oorspronklike sterkte van KI was klassifikasie. Ons kan KI baie konteks rondom 'n kwesbaarheid voed en 'n model kry om kwesbaarhede te klassifiseer en te prioritiseer.
3. Maak seker jy gebruik die regte model Hoe meer prioriteit ons met KI kry, hoe meer het ons 'n model nodig wat ewe gespesialiseerd is. Om hierdie modelle self op te lei, kan vir die meeste buite die moontlikhede wees. Maar daar is baie modelle wat beter as die standaard hamers sal vaar.

Sal die 'A' ooit 'ek' wees in sekuriteit?

Intelligensie is 'n gewaagde - en redelik dubbelsinnige - woord. Elke dag vind KI homself meer ingebed in ons alledaagse lewens en sekuriteitsgereedskap het groot potensiaal vir KI. Ek het min twyfel dat effektiewe innoverende implementering van AI absoluut beskikbaar sal wees in sekuriteitsgereedskap. Maar ons is nog nie daar nie.

Sekuriteitverkopers strek al jare lank hul KI-vermoëns, en toe ChatGPT vir hulle 'n reddingsboei gegooi het, het hulle probeer om die gereedskap na hul slagspreuke te buig. Die realiteit is dat effektiewe implementering anders sal wees as wat ons ons eers voorgestel het. KI sal effektief wees wanneer die slagspreuke by die instrument pas, en nie andersom nie.