Microsoft və Salesforce AI Agentlərində Məlumat Sızması Zəiflikləri Aradan Qaldırıldı

Microsoft və Salesforce AI Agentlərində Məlumat Sızması Zəiflikləri Yamaqla Bağlandı

Bu yaxınlarda aşkar edilmiş və tez bir zamanda təmir edilmiş iki əhəmiyyətli təhlükəsizlik zəifliyi süni intellekt əsaslı platformalar olan Microsoft Copilot və Salesforce Agentforce-a təsir göstərmişdi. Bu zəifliklər, xarici hücumçunun "prompt injection" texnikasından istifadə edərək həssas məlumatları sızdırmasına potensial olaraq imkan verə bilərdi.

Zəifliklərin Təfərrüatları

• Təsir Edən Platformlar: Microsoft Copilot və Salesforce Agentforce.
• Hücum Metodu: Prompt injection (istəm injeksiyası). Bu cür hücumlar, süni intellekt modelinin istifadəçi girişlərini səhv şərh etməsinə və istənməyən hərəkətləri həyata keçirməsinə səbəb ola bilər.
• Potensial Təsir: Həssas məlumatlara icazəsiz giriş və sızma riski. Xəbər, təsir edilmiş qeydlərin sayı və ya xüsusi məlumat növləri haqqında ətraflı məlumat verməsə də, belə bir sızmanın ciddi nəticələri ola biləcəyini qeyd edir.

Hər iki şirkət də sözügedən zəiflikləri aşkar etdikdən sonra dərhal hərəkətə keçərək lazımi təhlükəsizlik yamaqlarını buraxdılar. Bu yamaqlar sayəsində, prompt injection zəiflikləri aradan qaldırılmış və potensial məlumat sızması riski tamamilə yox edilmişdir. İstifadəçilər və müəssisələr, istifadə etdikləri süni intellekt əsaslı xidmətlərin güncəl və təhlükəsiz olduğundan əmin olmaq üçün hər zaman ən son yamaqları tətbiq etməlidirlər.

Bu hadisə, süni intellekt sistemlərində ortaya çıxa biləcək yeni nəsil təhlükəsizlik zəifliklərinə qarşı daim ayıq olmaq lazım olduğunu bir daha göstərir. Süni intellekt modelləri inkişaf etdikcə, bu sistemlərə yönəlmiş hücum vektorları da müxtəlifləşir və təhlükəsizlik qruplarının proaktiv tədbirlər görməsini zəruri edir.

Mənbə