Süni intellekt kiberdə uğursuzluğa düçar olur

2022-ci ilin oktyabrında karyeramın ən utanc verici məqaləsini dərc etdim, lakin 2 ildən sonra haqlı ola biləcəyimi düşünməyə başlayıram.

2022-ci ildə BlackHat-ın nəhəng satıcı zalında gəzərək, hər bir dükan süni intellektlə bağlı bəzi cəsarətli iddialar irəli sürdü. “ Süni intellektlə işləyən analitika”, “AI-nin real vaxt aşkarlanması ilə birləşdirilməsi” və ya başqa şüar. Satış komandası ilə söhbət etdikdə onların süni intellektinin nə etdiyini dəqiq soruşsanız, ya süni intellekt jarqonunun ardıcıllığını alırsınız, ya da Antarktidadakı yeraltı anbarlarda gizli tədqiqat qrupları haqqında iddia alırsınız.

Bundan sonra mən əminliklə AI-ni BS marketinqindən başqa bir şey kimi çağıran bir məqalə dərc etdim ... “BlackHat 2022, məndən daha çox A”. Bir neçə ay sürətlə irəliləyin və ChatGPT buraxıldı. Birdən süni intellekt reallaşdı və birdən mənim parlaq məqaləm zarafat oldu və açıq-aydın səhv oldu.

Ancaq bu il BlackHat 2024 satıcı zalını gəzdikdən sonra, bəlkə də o qədər də uzaqda deyildim.

Süni intellektin həqiqətən real olduğu və mənzərəni dəyişdirmək üçün böyük potensiala malik olduğu danılmazdır. Və bir çox cəhətdən artıq var. 2 il əvvəl inanmadığım bir şey. Ancaq BlackHat 2024 üçün Mandalay Körfəzinin geniş salonlarını gəzərkən, siz hələ də eyni şüarları görürsünüz və mən hələ də cəsarətli iddialara uzaqdan uyğun gəldiyini qeyd edə biləcəyim təhlükəsizlikdə AI-nin mənalı tətbiqini hələ tapa bilməmişəm.

“[BlackHat-da] qeyd etdiyim bir şey insanların süni intellektdən yorulması idi”

Ashish Rajan

Niyə AI təhlükəsizlikdə təsirli ola bilmədi?

Etirazlarınızı aradan qaldırmaq üçün mən bilirəm ki, təhlükəsizlik təchizatçıları həqiqətən öz məhsullarında süni intellektdən istifadə edirlər. Ancaq indiyə qədər qeyd edə biləcəyimiz heç bir oyunu dəyişdirən nəticələr yoxdur və bunların çoxu onların AI-ni necə tətbiq etməsindən asılıdır.

ChatGPT və sonrakı AI modellərinin buraxılmasından sonra bir çox satıcı bu yeni alətləri platformalarına əlavə etməyə tələsdi. Tətbiq üçün əsas məqsəd "AI ilə işləyən düzəliş qaydaları" və "Xəbərdarlıqlar ətrafında əlavə kontekst" idi.

Ancaq bunun arxasındakı reallıq budur: bu tətbiq istifadəçiyə deyil, əsasən satıcıya kömək edir. Bu, sadəcə olaraq, onların sənədlərinə çox vaxt sərf etmələrinə ehtiyac yoxdur. Bununla yanaşı, əksər kommersiya AI modelləri üçün kontekstual məlumat həmişə ən azı 2 il köhnəlmişdir.

Reallıq budur ki, bu tətbiqetmənin çoxu sadəcə olaraq satıcıların 'AI' ilə işləyən məhsulların arxasında verdiyi vədləri yerinə yetirmək üçün bir yol idi.

Süni intellektin təhlükəsizlik daxilində imkanlarını məhdudlaşdıran başqa bir problem, AI modellərini xüsusi təhlükəsizlik məlumatları üzərində öyrədə bilməsidir. ChatGPT kimi modellər AI modelinin nə edə biləcəyini nümayiş etdirmək üçün əladır, lakin xüsusi istifadə halları üçün etibarlı deyil. Dean De Beer-in dediyi kimi "ChatGPT əla çəkicdir, [amma] siz miqyasda tapşırıqları istehsal etməyə və yerinə yetirməyə başladığınız zaman bunu tövsiyə etmərəm" . Təhlükəsizliyə yönəlmiş bir modelin hazırlanması hazırda qeyri-adi hesablama gücünə ehtiyac duyur və kiçik bir şirkət bunu yerinə yetirmək üçün kifayət qədər GPU ala bilsə belə, bu, astronomik olacaq!

“Biz süni intellektin məhsulun yan xüsusiyyətindən daha çox olduğu anı vurmamışıq”

Kaleb Sima

Bu o deməkdir ki, yalnız bir neçə böyük oyunçu AI üzrə təlim keçmiş modellərə ümumi məlumatları göndərməkdən kənara çıxan AI xüsusiyyətlərini həyata keçirmək qabiliyyətinə malikdir. Bu gün AI əsasən təhlükəsizlik alətlərinin əksəriyyətində yan xüsusiyyət olaraq qalır, demək olar ki, bir hiylə marketinq qrupları dünyaya yayıla bilər.

AI-ni necə düzgün edə bilərsiniz?

Bütün şübhələrimə baxmayaraq, AI-nin bir neçə maraqlı tətbiqi olduğunu etiraf edəcəm. AI təhlükəsizlik analitiki kimi satılan SentinelOne tərəfindən, əlbəttə ki, hərəkətdə (ən azı demoda) görmək təsir edicidir.

Yaxşı, xüsusən də Formula 1 komandasının büdcəsi yoxdursa, süni intellektdən necə istifadə edə bilərsiniz?

1. İnsanları gücləndirin, onları əvəz etməyə çalışmayın Sadə həqiqət ondan ibarətdir ki, biz indi süni intellektə bir insanı əvəz etmək üçün etibar etmirik və etməməliyik. Güvənə bilməsək həmişə geridə qalacaq və onun imkanları məhduddur. AI insanlara kömək etmək üçün güclü bir vasitədir.
2. AI-nin hazırda nədə yaxşı olduğuna diqqət yetirin, təsnifat. AI-nin orijinal gücü təsnifat idi. Biz zəiflik ətrafında süni intellektlə çoxlu kontekst təmin edə və zəiflikləri təsnif etmək və prioritetləşdirmək üçün model əldə edə bilərik.
3. Doğru modeli istifadə etdiyinizə əmin olun Süni intellektlə nə qədər prioritet olsaq, bir o qədər də eyni dərəcədə ixtisaslaşmış modelə ehtiyac duyuruq. Bu modelləri özümüz öyrətmək çoxları üçün imkanlar çərçivəsindən kənarda ola bilər. Ancaq standart çəkicləri üstələyən çoxlu modellər var.

Təhlükəsizlikdə "A" nə vaxtsa "Mən" olacaqmı?

Kəşfiyyat cəsarətli və kifayət qədər qeyri-müəyyən bir sözdür. Hər gün AI gündəlik həyatımıza daha çox daxil olur və təhlükəsizlik alətləri süni intellekt üçün böyük potensiala malikdir. Mən şübhə etmirəm ki, AI-nin effektiv innovativ tətbiqləri təhlükəsizlik alətlərində mütləq mövcud olacaqdır. Amma biz hələ orada deyilik.

Təhlükəsizlik satıcıları illərdir süni intellekt bacarıqlarını genişləndirir və ChatGPT onlara həyat xətti atdıqda, alətləri şüarlarına uyğunlaşdırmağa çalışdılar. Reallıq budur ki, effektiv tətbiq bizim ilk təsəvvür etdiyimizdən fərqli olacaq. Süni intellekt şüarlar alətə uyğun gələndə təsirli olacaq, əksinə deyil.