.jpg "يانيس"){kind=small}
يعتمد التعرف على الصور بشكل متزايد على الذكاء الاصطناعي ، مما أحدث ثورة في مجالات مثل الطب والأمن والمركبات ذاتية القيادة. ومع ذلك ، يمكن أن تؤدي ثغرة أمنية جديدة إلى تعريض هذه الأنظمة للخطر. يحذر الباحثون من المخاطر المرتبطة بهذا الخلل ويدعون إلى حلول عاجلة.
تعمل تقنيات التعرف على الصور القائمة على الذكاء الاصطناعي على تغيير حياتنا اليومية. سواء كان الأمر يتعلق بمسح الأشعة السينية للكشف عن الحالات الشاذة ، أو تحليل الوجوه لتحديد الأفراد ، أو قراءة إشارات الطريق لتوجيه السيارات ذاتية القيادة ، تعتمد هذه الأنظمة على خوارزميات يمكنها معالجة آلاف البيانات المرئية في وقت قياسي. ومع ذلك ، تعتمد فعاليتها على القراءة الدقيقة للصور ، وهي مهمة يمكن أن تتعرض للخطر بسبب العيوب أو أوجه القصور في تصميمها.
حدد الباحثون مؤخرا خللا في الطريقة التي تعالج بها هذه الأنظمة ميزات معينة للصور. ستسمح هذه الثغرة الأمنية بالطريقة التي يفسر بها الذكاء الاصطناعي البيانات المرئية . ويمكن أن تكون عواقب هذه المشكلة خطيرة ، لا سيما بالنسبة للقطاعات الحيوية مثل الصحة أو النقل أو الأمن.
هذا الخلل المتعلق بقراءة الصور من قبل الذكاء الاصطناعي يهدد الطب والأمن والسيارات ذاتية القيادة
في مجال المركبات ذاتية القيادة ، يمكن استغلال هذا الخلل لتعطيل تفسير إشارات الطرق من قبل الذكاء الاصطناعي. من خلال تعديل عناصر معينة من الصور ، مثل مناطق التدرج الرمادي .
أظهر الباحثون أنه من الممكن خداع الخوارزميات والتسبب في أخطاء خطيرة محتملة على الطريق.
في الطب ، تكون ماسحات التصوير الطبي مثل التصوير بالرنين المغناطيسي أو الأشعة السينية معرضة للخطر أيضا.
يمكن أن يؤدي التلاعب بالصور إلى التشخيص الخاطئ أو تعريض صحة المريض للخطر أو الترويج للاحتيال ، على سبيل المثال عن طريق محاكاة الإصابات غير الموجودة.
يؤثر هذا الخلل أيضا على أنظمة التعرف على الوجه ، والتي تعتبر ضرورية في مجالات الأمن وتحديد الهوية . يمكن أن تتجاوز الصور التي تم التلاعب بها هذه الأجهزة ، مما يؤدي إلى حدوث أخطاء أو كشف بيانات حساسة. لمواجهة هذه المخاطر ، يتعاون الباحثون مع شركات مثل Google و Amazon و Microsoft لتطوير حلول يمكنها دمج البيانات التي يتجاهلها الذكاء الاصطناعي حاليا. تهدف هذه المبادرة إلى تعزيز متانة هذه الأنظمة ضد الهجمات المحتملة وضمان موثوقيتها في البيئات الحرجة.
المصدر : techxplore
.jpg "يانيس")