أدى التقدم الهائل للشبكات العصبية إلى بروز إشكالية علمية وصحفية معقدة تتمثل في
إنتاج معلومات مضللة وخيالية، نتيجة اعتماد هذه النماذج على محتوى الإنترنت دون فحص نقدي للمصادر، مما تسبب بوقوع أخطاء رُصدت في وسائط الإعلام والأبحاث الأكاديمية.
ولمواجهة هذا التحدي، ابتكر باحثون في جامعة ريشيتنيف بسيبيريا طريقة تهدف إلى فلترة إجابات النماذج الذكية من خلال توظيف تقنية التوليد المعزز بالاسترجاع، والتي تعتمد على تأسيس قاعدة بيانات معرفية من مصادر موثوقة للغاية. ورغم كفاءة هذا الأسلوب، يرى المطورون أن احتمالية الخطأ تظل قائمة إذا كانت البيانات المدخلة ناقصة أو متناقضة.
وفي هذا السياق، قادت الأستاذة المشاركة أناستاسيا بولياكوفا فريقاً بحثياً لتحليل ثغرات الذكاء الاصطناعي وتطوير مصنف مخصص لكشفها، بجانب إعداد آلية اختبار تقارن الإجابات بمعايير مرجعية دقيقة عبر مقاييس التشابه الدلالي.
وأسفرت هذه الجهود عن تصميم نموذج أولي لوحدة مراقبة فورية تتابع الحوارات وتقيس مدى موثوقية الأجوبة، مع إصدار تنبيهات للمشرفين في حال رصد أخطاء أو تراجع مستويات الثقة، وهي مرونة تتيح استخدام المنظومة في قطاعات متنوعة كالخدمات الحكومية والطب والقانون.
#مرايا_الدولية
