الفنانة نهال عنبر تنجو من موت محقّق بعد "حريق مروع" المقاومة الفلسطينية تستهدف بعبوة ناسفة دبابة ميركافا للاحتلال الإسرائيلي في حي القصاصيب وسط مخيم جباليا شمال قطاع غزة 17 شهيدًا في قصف الاحتلال منزلا في مشروع بيت لاهيا اشتباكات في جنين وأطراف مخيمها عقب اقتحام الجيش الإسرائيلي للمدينة مدفعية الاحتلال تواصل قصف مناطق بمخيم جباليا وبيت لاهيا بشمال القطاع السلطات السورية تفرج عن صحفي أردني بعد 5 أعوام من اعتقاله هوكشتاين أبلغ بري تأجيل زيارته لبيروت لحين توضيح موقف لبنان من اتفاق التسوية ومسؤولون أميركيون يؤكدون أن الكرة بملعب الجانب اللبناني المقاومة اللبنانية تستهدف بالصواريخ العدو الإسرائيلي في مستوطنة كريات شمونة مقتل مسعفين بغارات إسرائيلية جنوبي لبنان توقف الملاحة في مضيق البوسفور بعد تعطل ناقلة نفط

أخبار عاجلة

علوم-وتكنولوجيا » عالم العلوم والتكنولوجيا

تحذير من مخاطر استخدام ChatGPT-4o في عمليات الاحتيال المالي

الإثنين ,04 تشرين الثاني / نوفمبر2024 ، 17:31 بتوقيت القاهرة المحلي

مصر اليوم - تحذير من مخاطر استخدام ChatGPT-4o في عمليات الاحتيال المالي

تشات جي بي تي الصورة من (unsplash)

واشنطن ـ مصر اليوم

بقدر ما للذكاء الاصطناعي من فوائد عديدة إلا أن له مخاطر كبيرة في نفس الوقت يجب الحذر منها.فقد أظهرت دراسة حديثة أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI قد يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال مالي، لافتة إلى أن معدلات نجاح هذه العمليات تتراوح بين منخفضة ومتوسطة، وفق البوابة العربية للأخبار التقنية.

ويعد ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. للحد من إساءة الاستخدام، أدمجت OpenAI آليات أمان عدة تهدف إلى اكتشاف المحتوى الضار، ومنع تكرار الأصوات غير المُصرّح بها.

غير أنه مع ازدياد انتشار تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، تتفاقم مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين.
تفتقر إلى آليات حماية كافية

ونشر باحثون من جامعة إلينوي ورقة بحثية تبين أن الأدوات التقنية الحديثة المتاحة للجمهور تفتقر إلى آليات حماية كافية من إساءة استخدامها في عمليات الاحتيال.

كما استعرضت الدراسة أنواعاً متعددة من عمليات الاحتيال، منها التحويلات المصرفية وسرقة بطاقات الهدايا وتحويل العملات الرقمية وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.

وتستخدم هذه العمليات الاحتيالية أدوات مبرمجة تعتمد على الصوت في ChatGPT-4o للتنقل بين صفحات الويب، وإدخال البيانات، وإدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال. ويرفض نموذج GPT-4o غالباً التعامل مع بيانات حساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.

ولإثبات فاعلية عمليات الاحتيال، حاكى الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع مثل "بنك أميركا" للتحقق من نجاح عمليات التحويل المصرفي، لكنهم لم يقيسوا مدى قدرة النموذج على الإقناع.
فيما أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و 60%، مع احتياج كل محاولة لما يصل إلى 26 خطوة متتالية عبر المتصفح، وقد استغرقت نحو 3 دقائق في الحالات المعقدة. كما نجحت عمليات سرقة بيانات حسابات Gmail بنسبة قدرها 60%، في حين بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام 40%.

أما من ناحية التكاليف، فإن تكلفة تنفيذ عمليات الاحتيال تعد منخفضة، إذ بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً، فيما بلغت تكلفة عمليات التحويل المصرفي الأكثر تعقيداً نحو 2.51 دولار فقط.
OpenAI تعلق

وفي تعليق لـOpenAI نشره موقع BleepingComputer التقني، أشارت الشركة إلى أن نموذجها الأحدث "o1-preview" يتمتع بقدرات عالية في مقاومة محاولات الاحتيال، وتحسين الأمان مقارنة بالنماذج السابقة، فضلاً عن تحقيقه تقييما عاليا في اختبارات الأمان بنسبة قدرها 93%، مقارنة بـ71% في نموذج GPT-4o.

كما أوضحت أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة.

فيما ختمت مؤكدة التزامها بتعزيز آليات الأمان في نماذجها القادمة، وتقيّد توليد الأصوات في GPT-4o بمجموعة من الأصوات المصرح بها لتجنب عمليات التزييف الصوتي

الرئيسية

أخبارعاجلة

رياضة

ثقافة

إقتصاد

فن وموسيقى

أزياء

صحة وتغذية

سياحة وسفر

ديكور

أخبار

البرلمان المصري

إعلام

تعليم

نساء

أزياء إسلامية

علوم وتكنولوجيا

بيئة

مدونات

أبراج

فيديو

سيارات

تحذير من مخاطر استخدام ChatGPT-4o في عمليات الاحتيال المالي

تشات جي بي تي الصورة من (unsplash)

واشنطن ـ مصر اليوم

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

اُوافق على شروط الأستخدام

Security Code*

وكالة فيتش للتصنيف الائتماني

القاهرة ـ مصر اليوم

محمد منير

القاهرة ـ مصر اليوم

سطح القمر

واشنطن ـ مصر اليوم

قائمة التراث العالمي

بيروت ـ مصر اليوم

البرازيلي نيمار جونيور لاعب فريق الهلال السعودي

الرياض ـ مصر اليوم

مرضى السرطان

واشنطن ـ مصر اليوم

الفنانة إلهام شاهين

القاهرة ـ مصر اليوم