النمط الأول
النمط الثاني
الرئيسية
الأخبار
صور
فيديو
صوت
أقلام
مفتاح
رشفات
المشكاة
منشور
اضاءات
ثقف
قصص
الاخبار
اخبار الساحة الاسلامية
أخبار العتبة العلوية المقدسة
أخبار العتبة الحسينية المقدسة
أخبار العتبة الكاظمية المقدسة
أخبار العتبة العسكرية المقدسة
أخبار العتبة العباسية المقدسة
أخبار العلوم و التكنولوجيا
الاخبار الصحية
الاخبار الاقتصادية
باحثون: تشات جي بي تي ونماذج الذكاء الاصطناعي يمكن "تسميمها"
المؤلف: skynewsarabia.com
المصدر:
الجزء والصفحة:
2025-10-12
553
+
-
20
حذر باحثون من أن بعض أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" و"جيميناي" يمكن تسميمها، والتلاعب بها لإنتاج محتوى مضلل. وأوضحت دراسة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد "ألان تورينغ" وشركة "أنتروبيك" للذكاء الاصطناعي، أنه من السهل التلاعب بأدوات الذكاء الاصطناعي واستغلال بعض الثغرات، لتدريبها ببيانات كاذبة. وتوصل الباحثون إلى هذه النتائج بعد تدريب هذه الأدوات على 250 وثيقة ملوثة ببيانات مغلوطة، تم إدخالها عبر ثغرة خلفية. وبعد التجربة، أنتجت الأدوات نصوصا مبهمة وغير مفهومة، وفقا لما ذكرته صحيفة "إندبندنت" البريطانية.
وأقلقت هذه النتائج الباحثين، خاصة أن معظم النماذج تدرب على نصوص منشورة على الإنترنت مسبقا، بما في ذلك المواقع الشخصية والمدونات، ما يجعل أي محتوى ينشئه أي شخص يدخل ضمن البيانات التي تتدرب عليها هذه النماذج. ولتوضيح هذا الخلل، قالت شركة "إنتروبيك" في منشور على مدونتها "إن الجهات الخبيثة يمكنها إدخال نصوص ملوّثة لهذه المنشورات لجعل النماذج تكتسب سلوكيات غير مرغوب فيها وخطيرة، وتعرف هذه العملية باسم "التسميم". وقال باحثون في أمن الذكاء الاصطناعي، إن هذه الثغرات تحد من إمكانية استخدام الذكاء الاصطناعي في الأمور الحساسة. وكتب فاسيلوس مافروديس وكريس هيكس من معهد ألان تورينغ: "كانت نتائجنا مفاجئة ومثيرة للقلق"، مضيفين أن "تسميم البيانات كان أكثر سهولة مما كنا نعتقد، إذ سيكون على المهاجم إنشاء نحو 250 مقالة ملوثة على ويكيبيديا للتلاعب" بـ"تشات جي بي تي" وباقي النماذج.
معنى سلندر السيارة ووظيفته وأنواعه والفرق بينه وبين حصان السيارة
ياماها تطرح دراجة المستقبل الذكية
الكشف عن أسرار مخفية تحت القارة المتجمدة الجنوبية بدقة غير مسبوقة!
تويوتا تدخل عالم السيارات الكهربائية بمركبة متطورة
خسوف القمر: العالم يترقب ظاهرة القمر الدامي النادرة
النباتات تستخدم اتصالات سرية لدعم نمو جاراتها
علماء سيبيريا ينتجون الوقود من الهواء والماء
لأول مرة منذ عقود.. رصد "قرش" ضخم قرب جزيرة إسبانية
إطارات جديدة من دون هواء تبشر بثورة في عالم السيارات
الكشف عن تجويف ضخم في هرم خوفو في مصر
كيف تكتشف وتربي طفلا عبقريا؟
تقنية ثورية يمكنها أن تعرض لك ما لا يمكن للكاميرات أن تسجله
لغز جديد...تخيل ماذا اكتشف العلماء في العظام
حدقة العين... مرآة صادقة لسلوكنا!
العفو الدولية: غوغل وفيسبوك يهددان حقوق الإنسان
سماحة السيد الصافي يدعو إلى الاهتمام بعوائل الشهداء وإنجاز معاملاتهم بروح إنسانية عالية
العتبة العباسية المقدسة: وضعنا رؤية تربوية شاملة تواكب التطوّر في المجال التعليمي العالمي
قسم العلاقات يختتم الملتقى التربوي الثاني بمشاركة ممثّلين عن 21 مديرية تربية من عموم المحافظات
المجمع العلمي يقيم الدورة العاشرة من المشروع القرآني لطلبة العلوم الدينية في النجف الأشرف
دراسة تكشف الأفضل للصحة.. البيض البني أم الأبيض؟
أندر الأمراض.. نوم مستمر يحول الحياة إلى "كابوس"
ملعقة من زيت الزيتون يوميا.. ما تأثيرها على صحتك؟
هل يؤثر ذكاء الأطفال على أعمارهم؟.. دراسة حديثة تكشف العلاقة
علماء: "إنزيم الدهون" يخفي سرا مذهلا منذ 60 عاما
اكتشاف كيميائي على قمر زحل الشهير يغير المفاهيم العلمية
زلزال داخل ميتا.. إلغاء مئات الوظائف بقسم الذكاء الاصطناعي
ناسا تكشف: كوكب الأرض أصبح أقل لمعانا خلال العقود الماضية
اشترك بقناتنا على التلجرام ليصلك كل ما هو جديد
