أقلام فكرية

في مساءلة المسؤولية الأخلاقية داخل الأنظمة الذكية

يشهد العالم المعاصر انقلابا هادئا في أنماط التفكير والفعل، حيث لم تعد التقنية مجرد أداة في يد الإنسان، بل غدت أفقا كليا يعاد داخله تشكيل الوعي وإعادة توزيع السلطة وصياغة معايير القيمة والمعنى. ففي ظل التسارع الرقمي، تتراجع الحدود التقليدية بين الطبيعي والاصطناعي، وبين القرار الإنساني والحساب الآلي، لتنشأ منطقة رمادية تستعصي على التصنيف الأخلاقي المألوف. ويغدو السؤال الفلسفي اليوم ملحا لا بوصفه ترفا نظريا، بل باعتباره ضرورة حضارية تمس جوهر المسؤولية وحدود الحرية ومصير الذات في زمن الأتمتة الشاملة.

لم يعد القرار في زمن الخوارزميات، فعلاً إنسانيا صرفا، بل أضحى مركبا هجينا تتداخل فيه الإرادة البشرية مع الحساب الآلي، وتتقاطع فيه المقاصد الأخلاقية مع منطق النمذجة الرياضية، بما يجعل سؤال المسؤولية سؤالا مفتوحا على تعددية الفاعلين وتشتت المرجعيات. لقد انتقلنا بتعبير هابرماس من عقل تواصلي يتأسس على الفهم المتبادل، إلى عقل أداتي يتغذّى من الكفاءة والسرعة والتنبؤ، حيث تُختزل الخبرة البشرية في بيانات، وتُختصر الحكمة العملية في خوارزميات تعلّم آلي، ويُعاد تشكيل العالم الاجتماعي وفق منطق الاحتمال لا وفق معيار المعنى.

إن ما نشهده اليوم ليس مجرد تطور تقني، بل تحوّل أنطولوجي في بنية الفعل ذاته. فالقرار المؤتمت لا يشتغل بوصفه أداة في يد الإنسان فحسب، بل بوصفه وسيطا يعيد تعريف العلاقة بين الفاعل والفعل، بين القصد والنتيجة، وبين المسؤولية والسببية. وقد أصاب هانس يوناس حين نبّه منذ سبعينيات القرن الماضي، إلى أن التقنية الحديثة تفرض أخلاقا جديدة، لأن قدرتها على التأثير تتجاوز أفق التجربة المباشرة، وتستدعي مسؤولية استباقية تجاه المستقبل، وهو ما عبّر عنه بمبدأ المسؤولية القائم على الخوف المشروع من العواقب غير القابلة للعكس.

فالأنظمة الذكية القائمة على التعلم العميق والشبكات العصبية الاصطناعية، لا تشتغل وفق تعليمات صريحة فحسب، بل تطوّر أنماطا من الاستدلال الإحصائي تجعل قراراتها عصيّة على التفسير. وهنا يظهر ما يسميه الفلاسفة المعاصرون “صندوق السواد الخوارزمي”، حيث تغيب الشفافية، ويضمحل إمكان الإسناد الأخلاقي. فإذا كان كانط قد أسّس الأخلاق على الاستقلال الذاتي للعقل العملي، وعلى قدرة الذات على مساءلة أفعالها وفق مبدأ الكونية، فإن القرار المؤتمت يقوّض هذا الأساس من جذوره، لأن الفاعل لم يعد واحدا، بل شبكة موزعة من المصممين والمبرمجين ومزوّدي البيانات والمستخدمين والأنظمة ذاتها.

لقد بيّن لوك في تحليله للهوية الشخصية أن المسؤولية الأخلاقية تفترض الوعي بالفعل واستمرارية الذات عبر الزمن. غير أن الخوارزمية لا تملك وعيا، ولا ذاكرة أخلاقية، ولا إحساسا بالذنب أو الندم. إنها تشتغل داخل فضاء احتمالي محض، حيث تُختزل القيم إلى أوزان رقمية، وتتحول العدالة إلى دالة تحسين. ومن هنا فإن إسناد المسؤولية إلى النظام الذكي ذاته يبدو ضربا من التخييل الميتافيزيقي، بينما تحميلها للإنسان وحده يغفل البنية التقنية المعقدة التي تشارك في إنتاج القرار.

إننا إزاء ما يمكن تسميته بتفكك مركز الفعل. فالفعل لم يعد صادرا عن ذات متماسكة، بل عن منظومة موزعة. وهذا ما يجعل مقولة أرسطو عن الفعل الإرادي، القائم على العلم والاختيار عاجزة عن استيعاب هذا النمط الجديد من السببية. فالخوارزمية لا تختار بل تُرجّح. ولا تقصد، بل تحسب. ولا تفهم السياق، بل تستخلص أنماطا من كتل بيانات ضخمة غالبا ما تعكس تحيزات المجتمع ذاته.

وقد أظهرت دراسات عديدة أن أنظمة التوظيف المؤتمتة وخوارزميات التنبؤ بالجريمة وأدوات تقييم الجدارة الائتمانية، تعيد إنتاج أشكال خفية من الإقصاء الطبقي والعنصري، لأن البيانات التي تُدرَّب عليها مشبعة بتاريخ طويل من اللامساواة. وهنا يتجلى ما سماه فوكو “الميكروفيزياء الجديدة للسلطة”، حيث لا تعود السيطرة ممارسة فوقية واضحة، بل تتسلل عبر آليات تقنية دقيقة، تتخفى في هيئة موضوعية رياضية.

إن القرار المؤتمت لا يحكم فقط على الأفراد، بل يعيد تشكيل المجال الاجتماعي برمته. فحين تُفوّض الدولة أو السوق عمليات التقييم والتصنيف للخوارزميات، فإنها تنقل السيادة من المجال السياسي إلى المجال التقني، ومن النقاش العمومي إلى المعادلة البرمجية. وقد حذّرت حنة أرندت من هذا الانزلاق حين ربطت الشر الحديث بتفاهته، أي بتحوله إلى إجراءات بيروقراطية تُنفذ دون تفكير أخلاقي. واليوم يتخذ هذا الشر هيئة رقمية، حيث تُرتكب مظالم جسيمة باسم الكفاءة والحياد الحسابي.

وليس من قبيل المصادفة أن يصف برونو لاتور الفاعلية الحديثة بأنها موزعة بين البشر والأشياء، بين الذوات والوسائط. فالخوارزمية ليست مجرد أداة محايدة، بل فاعل مشارك في إنتاج الواقع. إنها بتعبير دونا هاراواي، كيان هجين يقع في المنطقة الرمادية بين الطبيعي والاصطناعي وبين الثقافة والتقنية. ومن هنا فإن أخلاقيات القرار المؤتمت لا يمكن أن تُبنى على نموذج أخلاقي كلاسيكي يفترض ذاتا عاقلة مستقلة، بل تحتاج إلى تصور علائقي للمسؤولية، يعترف بتشابك العوامل البشرية والتقنية.

لقد حاول بعض المنظّرين مثل لوسيان فلوريدي صياغة ما يسميه “أخلاق المعلومات”، حيث تصبح القيمة الأخلاقية مرتبطة بسلامة البيئة المعلوماتية ككل، لا فقط بنيات النية الفردية. وفي السياق ذاته، يدعو مارك كوكيلبرغ إلى أخلاق سياقية، ترى المسؤولية بوصفها شبكة علاقات لا نقطة إسناد واحدة. غير أن هذه المقاربات رغم أهميتها، تصطدم بإكراهات السوق النيوليبرالية التي تدفع نحو تعظيم الربح على حساب العدالة، ونحو تسريع الأتمتة دون بناء أطر مساءلة موازية.

إن ما يحدث اليوم هو انتقال من حكم القانون إلى حكم الخوارزمية، ومن الشرعية الديمقراطية إلى الفعالية التقنية. فبدل أن يُسأل: هل هذا القرار عادل؟ يُسأل: هل هذا النموذج دقيق؟ وبدل أن يُحتكم إلى النقاش العمومي، يُحتكم إلى مؤشرات الأداء. وهذا ما يجعل الإنسان بتعبير هيدغر مهددا بالتحول إلى “مورد قابل للاستهلاك”، داخل نسق تقني كلي يختزل الكينونة في قابلية الحساب.

ولئن كان ديكارت قد أسّس الحداثة على يقين الذات المفكرة، فإن عصر الذكاء الاصطناعي يؤسس ذاته على يقين البيانات. غير أن البيانات لا تقول الحقيقة، بل تعكس أنماطا تاريخية، وتُضخّم انحيازات كامنة. ومن هنا فإن الوثوق الأعمى بالقرار المؤتمت هو شكل جديد من السذاجة المعرفية، يُلبس الهيمنة لباس الموضوعية.

إن السؤال الجوهري ليس هل تستطيع الآلة أن تفكر كما تساءل تورنغ، بل هل نستطيع نحن أن نحافظ على إنسانيتنا داخل منظومات تفكّر نيابة عنا. فالمسؤولية الأخلاقية ليست مجرد إسناد قانوني، بل ممارسة وجودية تتطلب وعيا بالعواقب، وقدرة على النقد واستعدادا لتحمل الخطأ. وهذه كلها خصائص لا يمكن برمجتها.

إننا نعيش لحظة مفصلية تستدعي إعادة تأسيس الأخلاق على قاعدة جديدة، تأخذ بعين الاعتبار الطابع الشبكي للفعل، والطابع البنيوي للظلم، والطابع التنبؤي للتقنية. ولعل ما نحتاجه اليوم هو ما يسميه بول ريكور “أخلاق الاعتراف”، حيث يُعاد الاعتبار لهشاشة الإنسان، ولضرورة إبقاء القرار في أفق المعنى لا في منطق الحساب وحده.

إن تحميل المسؤولية لمصمم الخوارزمية وحده يغفل السياق المؤسسي الذي يفرض عليه معايير الأداء والربحية، كما أن إسنادها لمزود البيانات يتجاهل منطق السوق الذي يحكم تداول المعطيات، بينما تحميلها للمستخدم النهائي يختزل منظومة معقدة في حلقة ضعيفة. أما مساءلة النظام الذكي ذاته، فهي تظل مجازا لغويا، لأن الآلة لا تتمتع بالشخصية القانونية ولا بالأهلية الأخلاقية. وهكذا نجد أنفسنا أمام ما يسميه بعض المنظرين “فراغ المسؤولية”، حيث تتبدد المحاسبة داخل شبكة من الفاعلين غير المتكافئين.

لقد نبّه غونتر أندرس إلى هذا الوضع حين تحدث عن “فجوة البروميثيوس”، أي الهوة بين قدرتنا التقنية على الفعل، وقدرتنا الأخلاقية على استيعاب نتائجه. فالإنسان ينتج آثارا تفوق مخيلته، ويتسبب في أضرار لا يستطيع تمثلها، وهو ما يجعل المسؤولية تتآكل أمام ضخامة النظام. وفي السياق ذاته، يرى أولريش بيك أن الحداثة المتأخرة دخلت طور “مجتمع المخاطر”، حيث تصبح الأخطار مصنّعة، عابرة للحدود، وغير قابلة للإسناد البسيط.

إن الأنظمة الذكية بما تمتلكه من قدرة على التنبؤ والتصنيف والتأثير السلوكي، تضيف طبقة جديدة من التعقيد إلى هذا المشهد. فهي لا تكتفي بوصف الواقع، بل تشارك في صنعه. خوارزميات التوصية تعيد تشكيل الذوق العام، وأنظمة التقييم تؤثر في فرص الحياة، وأدوات التنبؤ ترسم خرائط الجريمة قبل وقوعها. وهنا يتحقق ما حذر منه بيير بورديو حين تحدث عن العنف الرمزي، أي ذلك الشكل الخفي من الهيمنة الذي يُمارس باسم الموضوعية.

لقد حاولت بعض التشريعات الحديثة إدخال مفاهيم مثل “الحق في التفسير” و”الشفافية الخوارزمية”، غير أن هذه المبادرات تصطدم بواقع تقني يجعل التفسير ذاته إشكاليا. فالنماذج العميقة لا تعمل وفق قواعد قابلة للترجمة السهلة إلى لغة بشرية، بل وفق طبقات من الترجيحات الاحتمالية. وحتى حين يُقدَّم تفسير، فإنه غالبا ما يكون تبسيطا لاحقا لا يعكس فعليا آلية القرار. وهنا يظهر التوتر بين مطلب الشفافية ومتطلبات الأداء، بين قابلية الفهم وفعالية التنبؤ.

إن هذا الوضع يعيد إلى الواجهة سؤال الحقيقة في العصر الرقمي. فالحقيقة لم تعد تُستخرج من الوقائع، بل تُستنتج من الأنماط. وهذا ما يجعل المعرفة رهينة للبيانات، والبيانات رهينة للسلطة الاقتصادية. وقد أصاب ليوتار حين وصف وضع ما بعد الحداثة بانهيار السرديات الكبرى وصعود معيار النجاعة. غير أن ما نعيشه اليوم يتجاوز ذلك إلى هيمنة خوارزمية تُعيد تنظيم المعرفة وفق منطق السوق.

إن ادعاء حياد الذكاء الاصطناعي هو أحد أكبر الأوهام المعاصرة. فالخوارزميات تُصمَّم داخل سياقات ثقافية محددة، وتُدرَّب على بيانات مشبعة بتحيزات تاريخية، وتُنشر داخل أنظمة سياسية غير متكافئة. وقد بيّنت كاثي أونيل في نقدها لما تسميه “أسلحة الدمار الرياضي”، كيف تتحول النماذج التنبؤية إلى أدوات لإدامة الفقر والإقصاء، لأنها تعمل في اتجاه واحد: تُراقب الضعفاء، وتُحصّن الأقوياء.

إننا إزاء ما يمكن تسميته بأخلاق اللا تماثل. فالآثار السلبية للقرار المؤتمت تقع غالبا على الفئات الهشة، بينما تجني النخب التقنية والمالية أرباح الأتمتة. وهذا ما يجعل الحديث عن مسؤولية مجردة حديثا مضللا، ما لم يُربط بتحليل علاقات القوة. فكما علّمنا فوكو، لا توجد معرفة بريئة ولا تقنية خارج السلطة.

من هنا تبرز الحاجة إلى تصور جديد للمسؤولية، لا يقوم على الفردانية القانونية، بل على تعددية المستويات. مسؤولية المصمم الذي يختار المعمارية الخوارزمية، ومسؤولية المؤسسة التي تحدد أهداف النموذج، ومسؤولية الدولة التي تسمح بنشره دون ضوابط كافية، ومسؤولية المجتمع الذي يقبل بمنطق الأتمتة دون مساءلة. إنها مسؤولية موزعة، لكنها غير متساوية، وتتطلب آليات محاسبة تتجاوز النموذج القضائي التقليدي نحو أشكال من الرقابة الديمقراطية.

لقد دعا يورغن هابرماس إلى إعادة الاعتبار للفضاء العمومي بوصفه مجالا للنقاش العقلاني. وفي سياق الذكاء الاصطناعي يصبح هذا النداء أكثر إلحاحا. فالقرارات الخوارزمية التي تمس التعليم والصحة والعمل والأمن لا يمكن أن تُترك للخبراء وحدهم. إنها قضايا وجودية تتطلب مشاركة مجتمعية واسعة. غير أن هذا يفترض مستوى من الثقافة الرقمية لا يزال غائبا، كما يفترض شفافية مؤسساتية تصطدم بمصالح الشركات العملاقة.

إن ما نحتاجه ليس فقط أخلاقيات للذكاء الاصطناعي، بل سياسة للذكاء الاصطناعي. سياسة تعيد توزيع السلطة المعرفية، وتفرض معايير للمساءلة، وتربط الابتكار بالعدالة. ولعل تجربة “الأخلاقيات المدمجة في التصميم” تمثل خطوة في هذا الاتجاه، لكنها تظل محدودة ما لم تُدعَم بإرادة سياسية.

على المستوى الفلسفي، يفرض القرار المؤتمت إعادة التفكير في مفهوم الفاعلية ذاته. فالفاعلية لم تعد خاصية ذاتية، بل خاصية شبكية. وهذا يستدعي الانتقال من أخلاق النية إلى أخلاق الأثر، ومن فلسفة الذات إلى فلسفة العلاقة. وقد يكون إيمانويل ليفيناس معينا هنا، حين جعل المسؤولية سابقة على الحرية، وربط الأخلاق بنداء الآخر. فالوجه الإنساني الذي قد يُمحى خلف واجهة رقمية يجب أن يعود إلى مركز التفكير.

كما أن بول ريكور في حديثه عن الذات بوصفها “قادرة ومسؤولة”، يفتح أفقا لفهم المسؤولية لا كتحميل للذنب فقط، بل كقدرة على الوعد، وعلى إصلاح الخطأ. وهذا البعد الغائب تماما في الأنظمة الذكية. فالخوارزمية لا تعتذر، ولا تتعلم أخلاقيا من فشلها، بل تعيد الضبط وفق معايير أداء.

إن الخطر الأكبر لا يكمن في أن تحل الآلة محل الإنسان، بل في أن يتكيف الإنسان مع منطق الآلة. أن يقبل بتقليص ذاته إلى مجموعة مؤشرات، وأن يسلّم قراراته لمنظومات لا تفهم المعنى. وهنا يتحقق ما سماه أدورنو “العقل الأداتي”، حيث تتحول الغاية إلى وسيلة، والإنسان إلى مورد.

إن الدفاع عن أخلاقيات القرار المؤتمت هو في العمق دفاع عن إنسانية الإنسان. عن حقه في الخطأ وفي التردد وفي التفكير البطيء. عن حقه في ألا يُختزل إلى ملف بيانات. وهذا يقتضي مقاومة النزعة الاختزالية التي ترى في الذكاء الاصطناعي قدرا لا يُرد، بدل أن تراه اختيارا سياسيا قابلا للنقد.

إن القرار المؤتمت ليس مجرد تطور تقني، بل مرآة تكشف هشاشة مشروع الحداثة ذاته. فهو يعرّي أوهام السيطرة  ويكشف حدود العقل الحسابي، ويفرض علينا إعادة تأسيس الأخلاق على قاعدة جديدة، تعترف بتشابك البشر والآلات، لكنها ترفض التخلي عن مركزية القيمة الإنسانية. إن المسؤولية في عصر الأنظمة الذكية لا يمكن أن تكون فردية فقط ولا تقنية فقط، بل يجب أن تكون كونية الطابع وعلائقية البنية واستباقية الأفق.

ولعل السؤال الأخير الذي ينبغي أن يظل مفتوحا ليس: كيف نجعل الآلة أخلاقية؟ بل: كيف نحول دون أن نصبح نحن لا أخلاقيين باسم الآلة.

***

د. حمزة مولخنيف