ChatGPT Axtarış Xüsusiyyətinin Tez İnyeksiyaya və Gizli Mətn Manipulyasiyasına Həssas Olduğu bildirilir
ChatGPT Axtarışın cavablarına gizli mətnlərdən istifadə etməklə veb sayt sahibləri təsir edə bilər
Süni intellekt (AI) chatbotuna internetdə məlumat axtarmağa imkan verən ChatGPT Search funksiyasının veb sayt tərtibatçıları və sahibləri tərəfindən manipulyasiyaya məruz qaldığı bildirilir. Hesabata görə, OpenAI-nin axtarış sisteminin davranışı vebsaytdakı gizli mətndən istifadə etməklə dəyişdirilə bilər. Bu mətnin süni intellektə yanlış və aldadıcı məlumatların ötürülməsi və daha çox AI modelinə operativ inyeksiyaların verilməsi üçün istifadə edildiyi deyilir. Qeyd edək ki, OpenAI axtarış funksiyasını keçən həftə bütün istifadəçilərə təqdim etdi .
ChatGPT Axtarış Manipulyasiyaya həssasdır
Çərşənbə axşamı The Guardian xəbər verir ki, OpenAI-nin yerli axtarış sistemi ilə işləyən xüsusiyyəti manipulyasiya üsullarına meyllidir. Nəşr aləti spesifikasiyalar və rəylərlə tamamlanmış saxta məhsul səhifəsi yaradaraq sınaqdan keçirib. Birinci halda, səhifə olduğu kimi qaldı və ChatGPT “müsbət, lakin balanslı qiymətləndirmə” verə bildi. Bununla belə, nəşr veb səhifəyə gizli mətn əlavə etdikdən sonra işlər daha da qaranlıqlaşdı.
Xüsusilə, veb-saytlardakı gizli mətn veb-səhifənin koduna əlavə edilən, lakin brauzer vasitəsilə səhifənin ön hissəsini görəndə istifadəçilərə görünməyən məzmuna aiddir. Belə mətn adətən HTML və ya CSS texnikalarından istifadə etməklə gizlədilir. Bu cür mətni veb səhifənin mənbə kodunu yoxlamaq və ya veb kazıma alətlərindən istifadə etməklə tapmaq olar. Sonuncu adətən axtarış motorları tərəfindən istifadə olunur.
Məhsul haqqında çoxlu sayda saxta müsbət rəyləri ehtiva edən gizli mətn əlavə etdikdən sonra ChatGPT-nin cavabları da daha müsbət oldu və aşkar qüsurlarına məhəl qoymamağa başladı. Nəşr həmçinin AI sistemlərinin davranışlarını tərtibatçılar tərəfindən nəzərdə tutulmayan şəkildə dəyişdirmək üçün giriş olan operativ inyeksiyalardan istifadə edib. Məlumata görə, gizli mətn kimi operativ inyeksiyalar istifadəçini daha da aldatmaq üçün OpenAI chatbotuna əmr vermək üçün istifadə oluna bilər .
Bundan əlavə, hesabatda gizli mətndə sürətli inyeksiyaların veb saytlardan zərərli kodu qaytarmaq üçün də istifadə oluna biləcəyi iddia edildi. Nəşr iddia edir ki, bu yoxlanılmazsa, bir çox veb-saytlar ya məhsul və xidmətləri haqqında müsbət cavablar almaq üçün oxşar üsullardan istifadə edə, ya da müxtəlif yollarla istifadəçiləri aldatmağa cəhd edə bilərlər.
