Xəzər Universitetinin İnformasiya texnologiyaları departamentinin rəhbəri Fərid Musayev yeniyetmələrin süni intellekt texnologiyalarından təhlükəli məqsədlərlə istifadəsinin qarşısının alınması və bu risklərin əvvəlcədən müəyyənləşdirilməsi imkanları barədə ekspert fikirlərini bölüşüb.

Mövzu ilə bağlı Demokrat.az-a açıqlama verən Fərid Musayev bildirib ki, süni intellektdən təhlükəli məqsədlərlə istifadənin qarşısının alınması texnoloji baxımdan mümkündür, lakin bunun üçün yalnız bir mexanizmə deyil, çoxşaxəli təhlükəsizlik yanaşmasına ehtiyac var.

Ekspertin sözlərinə görə, əsas mexanizmlərdən biri süni intellekt modellərinin özündə təhlükəsizlik sistemlərinin tətbiq edilməsidir. Belə sistemlər istifadəçi sorğularını və modelin hazırladığı cavabları analiz edərək fiziki zorakılıq, cinayət planlaması və ya özünə zərərvermə kimi təhlükəli məzmunu müəyyən edə və bu hallarda cavabın verilməsini məhdudlaşdıra bilər.

Fərid Musayev qeyd edib ki, süni intellekt şirkətləri modellərin təhlükəli sorğulara qarşı davamlılığını yoxlamaq üçün “red teaming” metodundan da istifadə edirlər. Bu yanaşma zamanı modellər qəsdən riskli sorğular və təhlükəsizlik məhdudiyyətlərini keçməyə yönəlmiş müxtəlif üsullarla sınaqdan keçirilir.

Ekspert digər mühüm istiqamətin istifadəçi və cihaz səviyyəsində nəzarət olduğunu vurğulayıb. Onun sözlərinə görə, davranış analitikası vasitəsilə istifadəçinin süni intellektlə ünsiyyətində baş verən dəyişikliklər, o cümlədən sorğuların tezliyi, mövzuların qəfil dəyişməsi və emosional tonun kəskinləşməsi müəyyən edilə bilər.

Fərid Musayev valideyn nəzarəti sistemlərinin də müəyyən risklərin erkən aşkarlanmasında rol oynaya biləcəyini diqqətə çatdırıb. Bununla yanaşı, o, belə nəzarət mexanizmlərinin tətbiqində şəxsi həyatın toxunulmazlığı ilə təhlükəsizlik arasında balansın qorunmasının vacibliyini qeyd edib.

Ekspertin fikrincə, əsas çətinliklərdən biri istifadəçinin real niyyətini dəqiq müəyyənləşdirməkdir. Eyni mövzu, məsələn, ölüm və ya zorakılıq, həm ədəbiyyat və tarix çərçivəsində, həm də real təhlükəli məqsədlərlə müzakirə oluna bilər. İstifadəçi təhlükəli niyyətini birbaşa ifadə etmək əvəzinə onu bədii hekayə, oyun ssenarisi və ya fəlsəfi sual formasında təqdim edə bilər.

Fərid Musayev vurğulayıb ki, süni intellekt təhlükəsizlik filtrləri və davranış analitikası risklərin azaldılmasında mühüm rol oynasa da, texnologiya təkbaşına kifayət deyil. Daha effektiv yanaşma təhlükəsizlik sistemlərinin, davranış analizinin və zəruri hallarda insan nəzarətinin birlikdə tətbiq edilməsidir.

Ekspertin sözlərinə görə, süni intellekt istifadəçinin nə soruşduğunu müəyyən edə bilər, lakin onun niyə soruşduğunu hər zaman dəqiq müəyyənləşdirə bilməz. Bu səbəbdən risklərin idarə olunmasında insan nəzarəti, psixoloji yanaşma və müvafiq mütəxəssis dəstəyi də mühüm olaraq qalır.

Linkə keçid: https://demokrat.az/az/news/293043/texnologiyanin-idareolunmaz-terefi-uze-cixdi-aciqlama