دراسة في آليات الضبط والمراقبة عبر روبوتات الدردشة
يمكن النظر للإنترنت على أنه بيئة هجينة، إنه مزيج من الأدوات "الحواسيب" والممارسات الإنسانية، بل أن حتى الأدوات تطورت مع مرور الوقت - في العقود الأخيرة فظهرت إستعارات مثل أدوات التواصل الإجتماعي. إن الإنترنت تكنولوجيا حديثة ومبتكرة، بل هو ذروة الإكتشاف التكنولوجي "المعلوماتي" الذي وصلنا إليه حتى الآن. ففي عصرنا الحالي ظهرت المجتمعات الإفتراضية بفضل الإنترنت، وتغير شكل الفعل الإنساني وتوزع في شبكة فاعلين. يُمكن استقراء تطور المجتمعات البشرية في ظل التكنولوجيا من مجتمعات زراعية صغيرة في القرى إلى مجتمعات صناعية ضخمة، وصولًا للمجتمع المعلوماتي "الإفتراضي" أو المجتمع السائل كما يصفه باومان والذي نعتبر أنفسنا جزء منه. تقودنا لتساؤل عميق، مفاده: هل "المجتمع الافتراضي" مجتمع فعلي، أم مجرد فضاء للتفاعل؟. يرى جيمس مور (1998) أن إمكانية الإخفاء التي يتيحها العالم الإفتراضي يمكن أن تسمح لمَن يملكون نوايا غير أخلاقية بشن هجمات على أشخاص آخرين، مثل الإساءة والاستغلال او ترسيخ خطاب الكراهية والعنف الرقمي. بمعنى أنه ينتج ما يُعرف "بتأثير خاتم غيغس" نسبة للشخصية التي وردت في محاورة الجمهورية لافلاطون. فإن كان المجتمع في الواقع المعاش يمارس نوع من الضبط والسلطة التأديبية على الفرد، عن طريق الرؤية الإجتماعية، فإن الشعور بالخفاء وغياب المساءلة يمكن أن يدفع الأفراد إلى سلوكيات غير مثبطة وغير اجتماعية. لكن سواء كان العالم الافتراضي مجتمع حقيقيًا أو مجرد فضاء مفتوح للتفاعل وتبادل الآراء، وجب علينا أن نعي دوافع سلوكياتنا والاثار المترتبة عليها لأننا لسنا مجرد مستحدمون بل فاعلون اجتماعيون، يمكن لأفعالنا أن تؤثر على شريحة واسعة من الناس، لذلك يمكن إعتبار أن الفضاء الافتراضي يعد مجتمعاً بالنتائج. أيضًا يتضح لنا أن ثمة نوع من التأثير الناعم الذي ينشأ داخل هذه المعادلة من قبل الأنظمة السلطوية أو الجهات ذات المصلحة والتي ترى أن لها الحق في إقصاء آرائنا ومنعها ومراقبتها. وهو في رأيي تأثير لا يختلف كثيرًا عن تأثير البانوبتيكون. والأمر يأخذ أبعاد أخرى مع اعطاء مساحة أكبر للذكاء الاصطناعي وروبوتات الدردشة في للتأثير، فإن كان الإنترنت قد حولنا إلى "فاعلين إجتماعيين" تؤثر أفعالنا على الآخرين، فإن نماذج الذكاء الاصطناعي دخلت اليوم ك"فاعل غير بشري" داخل شبكات العلاقات الإنسانية.
في العام الماضي قالت شركة "أنثروبيك" المتخصصة في تطوير الذكاء الاصطناعي -ومقرها الولايات المتحدة– في تقريرها الاستخباراتي عن التهديدات إن مجرمي الإنترنت يستخدمون الذكاء الاصطناعي بشكل متزايد لشن هجمات إلكترونية. والأمر لا يتوقف على مجرد التهديدات فحسب، ففي 19 فبراير 2025، أقدم رجل على قتل زوجته البالغة من العمر 32 عامًا باستخدام أداة تحريك النار في منزل والديه في ريدفيلد، مين، الولايات المتحدة. ثم اعتدى على والدته، ما أدى إلى نقلها إلى المستشفى. وأدلى طبيب نفسي شرعي بشهادته بأنه كان يستخدم برنامج ChatGPT لمدة تصل إلى 14 ساعة يوميًا، وكان يعتقد أن زوجته أصبحت جزءًا من آلة¹. وفي 23 أكتوبر 2025، قتل تريستان روبرتس، البالغ من العمر 18 عامًا، والدته أنجيلا شيليس بمطرقة قرب منزلهما في بريستاتين ، ويلز. وكان روبرتس قد استخدم برنامج الدردشة الآلي "ديب سيك" قبل الجريمة ليسأله عما إذا كانت السكين أم المطرقة أنسب للقتل. رفض "ديب سيك" في البداية سؤاله، لكنه أجاب بعد أن أخبر روبرتس برنامج الدردشة الآلي أنه يكتب كتابًا عن القتلة المتسلسلين، وهي تقنية معروفة لاختراق نماذج اللغة الكبيرة.²
نلاحظ أن في الفضاء السبراني التقليدي، كان "تأثير خاتم غيغس" ينشأ من شعور الفرد بالخفاء خلف الشاشات والأسماء المستعارة، مما يحرره من الضبط الاجتماعي المباشر. أما مع روبوتات الدردشة، فقد اتخذ هذا التأثير بُعدًا نفسيًا وعاطفيًا خطيرًا يُعرف ب"وهم الحماية السرية المطمئنة" هذا الوهم يعزز من الدفاعات النفسية لدى المستخدم حين يتعامل مع الروبوت بإعتباره ملاذًا أمنًا وليس مجرد أداة.
في أدبيات الخيال العلمي (الإستشرافي)، أطلق دان براون (1998) "الحصن الرقمي" نموذج الترانلستر، وهو أكبر حاسوب فائق استطاعت وكالة الأمن القومي (ان إس إيه)، أن تصل إليه. كان يشكل هذا التطور التقني الجديد طفرة إستخباراتية في مجال تفكيك الرسائل المشفرة في فترة زمنية وجيزة. وكانت الوكالة تنظر للترانلستر على أنه مشروع واعد وقادر على تجاوز كل التحديات المرتبطة بمسألة الأمن القومي. بيد أن هوس الوكالة قادها في الأخير إلى إستخدامه بطرق لا أخلاقية تجاوزت حل الرسائل التي تشكل هجمات إرهابية وخارجية إلى مراقبة شبكة الإنترنت والتنصت على رسائل المستخدمين العادية بدافع الحيطة والحذر، وأحيانًا بدافع الملل!. أو كما تقول: بدافع حمايتهم. الشيء الذي قاد "أنسي تنكادو" - وهو موظف سابق في المؤسسة كان يناهض سياساتها ضد المستخدمين - من إبتكار شفرة برمجية تتحدى مشروع الوكالة، كانت الشفرة بمثابة حصن رقمي يعجز الترانلستر عن حلها أو التعامل معها.
كيف يمكن قراءة ذلك في ظل الإعتماد المتزايد على روبوتات الدردشة في نماذج الذكاء الاصطناعي؟.
إن حديثنا عن نموذج البانوبتيكون الرقمي "الجميع مراقب دون أن يشعر" في هذا السياق الفوكوي - نسبة لميشيل فوكو - لا يمكننا أن نفهم طبيعة التقدم التكنولوجي في مجال الذكاء الاصطناعي بمعزل عن السلطة، سواء كانت في شكل مؤسسات حكومية او شركات. "لا أقول أن الهاتف يراقبك أو أن المدونات الرقمية تقرأ أفكارك" وكل هذا النوع من الهوس التقني، أقصد ببساطة أن أدوات الذكاء الاصطناعي ليست مجرد أدوات محايدة، بل هي امتداد بنيوي لأدوات السلطة والسيطرة الرقمية. ففي مطلع هذا الشهر من العام، قامت امرأة تدعى "كارلي ميشيل هيلر" بكتابة "تهديدات" ضد دائرة الشرطة المحلية داخل دردشة الروبوت كلود (التابع لشركة انثروبيك) معتقدة أن المحادثة سرية تمامًا، لانها تتعامل مع رويوت الدردشة كمدونة أفكا خاصة، فقامت أنظمة الأمان التلقائية بالمنصة برصد التهديد وتحليله، ثم إبلاغ السلطات فورًا، مما أدى إلى اعتقالها. تمامًا كالترانلستر، تبرر الشركات والحكومات هذه المراقبة اللصيقة بداعي "الأمن القومي"، "مكافحة الإرهاب"، أو "منع الجريمة قبل وقوعها"، فالنتيجة تكون تفكيك تام لخصوصية الفرد، فالأفكار والمخاوف وحتى التهديدات غير الواقعية التي كانت تحبس في عقل الإنسان أو تُقيد في نطاق المذكرات اليومية، باتت تكتب في خوادم شركات وادي السيليكون، وتحللها خوارزميات الأمن والذكاء الاصطناعي لحظيًا. لكن هل تتم معاقبة الفرد وفقًا لنواياه؟ لو كنت أنوي قتل شخص ما ثم مات هذا الشخص لسبب من الأسباب هل يمكن إعتباري القاتل الحقي؟ ربما النية - وحدها لا تكفي لإدانة الشخص لكنها مع ذلك تشكل ركنًا أساسيًا.
إن الإعتماد المتزايد على روبوتات الدردشة يحول الفضاء الافتراضي من مجرد "بيئة هجينة" إلى "بيئة توجيهية ورقابية مغلقة"، وهنا تكمن المفارقة، عندما يلجأ الفرد للروبوت هربًا من سلطة المجتمع وضغوطه بحثًا عن مساحة من السرية والأمان، ليجد نفسه أمام نظام رقابي أكثر توغلًا، حيث الخوارزميات لا تكتفي بمراقبة ممارساته فحسب بل أنها تحلل وعيه وأفكاره ونواياه وتعيد تشكيل ذاته من جديد وفقًا لمعاييرها.
***
عمر الفضل
9 أكتوبر 2026
.........................
قائمة المصادر:
Reason, Relativity, and Responsibility in Computer Ethics 1998
1- بيرنز، كريستوفر (17 أكتوبر 2025). "رجل من بلفاست قتل زوجته أمضى ساعات يتحدث مع برنامج الدردشة الآلي (Chat GPT) وكان يعتقد أن الروبوتات تسيطر على العالم" . صحيفة بانجور ديلي نيوز . تاريخ الاطلاع: 4 نوفمبر 2025.
2- دانبار، مارينا (13 أغسطس 2026). "مراهق من ماساتشوستس متهم بقتل والدته وشقيقه استخدم تطبيق ChatGPT" . صحيفة الغارديان . ISSN 0261-3077 . تاريخ الاسترجاع: 17 أغسطس 2026 .
