مسؤولية الذكاء الاصطناعي

المدن معقّدة. والقرارات التي تُتخذ بشأنها — أين تُبنى مدرسة، وأي حي يتلقى الاستثمار، وكيف يُعاد تصميم شارع — تؤثر في ملايين الناس، ولعقود في الغالب. وحين يدخل الذكاء الاصطناعي فضاء القرار هذا، عليه أن يكسب الثقة كما تكسبها أي أداة أخرى: بالشفافية بشأن كيفية عمله، وأين يمكن أن يخفق، وكيف تبدو الممارسة الجيدة عند استخدامه.

GUS (نظام الفهم الجغرافي) هو المساعد الذكي الذي يشغّل طبقة التحليل لدينا. وهو يساعد المخططين وصنّاع السياسات والمشغّلين على استجواب كميات كبيرة من البيانات الحضرية بلغة عادية. وهو سريع وواسع النطاق ومفيد — وهو، كأي نظام ذكاء اصطناعي، قابل للخطأ.

تشرح هذه الصفحة، بعبارات بسيطة، ما هي GUS، وأين يمكن أن تخطئ، والضوابط التي بنيناها لتقليل ذلك الخطر، والدور الذي نتوقع أن يؤديه خبير بشري. ونتعامل مع هذه الصفحة بوصفها وثيقة حيّة نحدّثها مع تطوّر النظام والبيانات التي وراءه وفهمنا للذكاء الاصطناعي المسؤول.

موقفنا في جملة واحدة: صُمّمت GUS لتجعل البشر المؤهلين أسرع وأفضل اطلاعاً — لا لتحلّ محل الحكم الخبير أو العناية الواجبة أو المساءلة الديمقراطية.

1 · كيف تعمل GUS

تجمع GUS ثلاث طبقات: أساس بيانات جغرافي مكاني مُنسَّق، ومجموعة نماذج تحليلية مضبوطة للأسئلة الحضرية، ونموذج لغوي كبير يترجم بين أسئلة البشر والتحليل المنظَّم.

أساس البيانات

تستند GUS إلى طيف واسع من المصادر الموثوقة — مكاتب الإحصاء الحكومية، وهيئات النقل، والقياسات المستمدة من الأقمار الصناعية، وOpenStreetMap، ومزوّدي بيانات التنقل، وأجهزة الاستشعار البيئية، وبحوثنا الأولية. وكل مجموعة بيانات موثّقة بمصدرها وتاريخها ودقتها المكانية وحدودها المعروفة.

الطبقة التحليلية

فوق البيانات تقوم نماذج حتمية لما لا ينبغي تخمينه أبداً — حسابات المسافات، وتسجيل إمكانية الوصول، والتقاطعات الديموغرافية، ومقاييس الكثافة. وتعمل هذه بوصفها شيفرة قابلة للفحص، لا مخرجات لنموذج لغوي.

واجهة اللغة

يفسّر نموذج لغوي كبير سؤالك، ويقرّر أي مجموعات البيانات والتحليلات ذات صلة، ويستدعيها، ويلخّص النتيجة. والنموذج اللغوي ليس مصدر الحقيقة — بل هو المفسِّر. وتُعاد النتائج مصحوبة بمجموعات البيانات والاستعلامات والاستشهادات الأساسية بحيث يمكن تتبّع العمل إلى أصله.

والفصل مهم. فحيثما يستلزم الجواب حساباً أو هندسة أو منهجية محدّدة، توجّه GUS العمل إلى شيفرة حتمية. ويُستخدم النموذج اللغوي للتنقّل والشرح ووضع السياق — لا لاختلاق أرقام ينبغي له أن يبحث عنها.

2 · لماذا يمكن للذكاء الاصطناعي أن يخطئ

حتى مع معمارية متأنية، يمكن لأنظمة الذكاء الاصطناعي أن تنتج إجابات خاطئة أو مضلّلة. والصدق بشأن كيفية حدوث ذلك هو الخطوة الأولى في الاحتراز منه.

مطابقة الأنماط ليست فهماً

تولّد النماذج اللغوية استجاباتها استناداً إلى أنماط إحصائية في البيانات التي دُرّبت عليها. وليست لديها معرفة مباشرة بمدينتك. وحين يقع سؤال خارج الأنماط المألوفة، قد ينتج النموذج اللغوي إجابة واثقة لكنها خاطئة على نحو دقيق — أو خاطئة تماماً.

البيانات الحضرية فوضوية

حدود التعداد تتغيّر. وتعريفات «الأسرة المعيشية» تختلف بين البلدان. ورموز استخدامات الأراضي غير متسقة. وأجهزة الاستشعار تتعطّل. ومجموعتا بيانات تبدوان متطابقتين قد تقيسان أشياء مختلفة. ولا يستطيع الذكاء الاصطناعي دائماً كشف هذه التناقضات، خصوصاً حين تكون البيانات الوصفية الأساسية ناقصة.

للإحصاءات حدود

أحجام العيّنات الصغيرة، وتحيّز أخذ العيّنات، والخلايا المحجوبة في مجموعات البيانات العامة، وفترات الثقة، كلها قد تشوّه رقماً يبدو أنيقاً. والمقاييس الرئيسية كثيراً ما تخفي تبايناً مهماً بين الأحياء أو الفئات السكانية.

التحيّز يسافر مع البيانات

إذا كانت مدينة قد أحصت تاريخياً عدداً أقل من سكان المستوطنات العشوائية، فإن النماذج المدرَّبة على تلك البيانات ستقصّر في خدمة السكان أنفسهم. ونحاول إبراز هذه الفجوات، لكن لا يستطيع أي نظام إصلاح التاريخ. فالذكاء الاصطناعي يرث الخيارات التي اتخذها البشر الذين جمعوا البيانات الأساسية وصنّفوها ونشروها.

العلاقات المعقدة يسهل إساءة قراءتها

المدن أنظمة من أنظمة. والسببية والارتباط والمصادفة تبدو متشابهة جداً في رسم بياني. ويستطيع الذكاء الاصطناعي وصف ما هو مترابط، لكنه لا يستطيع وحده أن يقرّر ما الذي سبّب ماذا. فالادعاءات السببية تستلزم معرفة بالمجال، وتثليثاً للأدلة، وأحياناً تجارب.

3 · ضماناتنا

نبني GUS كما لو أن كل إجابة قد يُطعن فيها أمام لجنة تخطيط — لأن ذلك سيحدث في نهاية المطاف. والضمانات التالية مدمجة في المنصة، لا مضافة إليها.

• تحقق آني مقابل المصادر الموثوقة. حيثما وُجدت بيانات موثوقة، تُوصَل GUS بها مباشرةً بدلاً من الاعتماد على تقديرات مخزَّنة أو مُنمذَجة. وتُعلّم قواعد التحقق الاستجابات التي تنحرف خارج النطاقات المتوقعة.
• مقابلة مرجعية عبر مصادر بيانات متعددة. تُثلَّث النتائج المهمة. فإذا قال مصدر إن الكثافة السكانية X بينما قال مصدران آخران إنها Y، تُبرز GUS الاختلاف بدلاً من اختيار فائز بصمت.
• منهجية واستشهادات ومصادر شفافة. يمكن توسيع كل إجابة لإظهار مجموعات البيانات الأساسية، وكيف دُمجت، وأي وحدة مكانية استُخدمت، وما فترة الثقة. ويمكن للمستخدمين تتبّع الاستشهادات وصولاً إلى الناشر الأصلي.
• الحتمية حيث تهمّ. الحسابات التي لا ينبغي تخمينها أبداً — المسافات، والأعداد، والتقاطعات، ودرجات إمكانية الوصول — تنفّذها شيفرة حتمية، لا نماذج لغوية. ومستخدمان يطرحان السؤال نفسه على مجموعة البيانات نفسها يحصلان على الإجابة نفسها.
• تحديثات منتظمة للنماذج ومراقبة للجودة. نقيّم النظام باستمرار مقابل مقاييس مرجعية معروفة الصحة، ومجموعات اختبار انحدار، وملاحظات المراجعين. وحين تنحرف النماذج أو تظهر أنماط إخفاق جديدة، يجري التحقيق فيها وإصلاحها وتوثيقها.
• إظهار عدم اليقين. حيثما لا تكون GUS واثقة — عيّنة صغيرة، أو بيانات قديمة، أو منهجية لا تناسب السؤال — تقول ذلك. و«لا أعرف» المعايَرة أنفع من تخمين واثق.

4 · الإنسان في الحلقة

بعض القرارات أهم من أن تُترك لآلة. ومنصّتنا مصمّمة حول فكرة أن الإنسان هو صاحب القرار دائماً — وGUS هي المحلّل الجالس إلى جانبه، لا السلطة على رأس الطاولة.

المراجعة البشرية مطلوبة في:

• القرارات الجوهرية — الاستثمار، وموافقات التخطيط، والإنفاق العام، والإجراءات التنظيمية.
• التحليل الحساس للإنصاف — كل ما يمسّ الفئات الضعيفة أو الخصائص المحمية أو الخدمات العامة.
• التوقعات والإسقاطات — مخرجات النماذج التي تعتمد على افتراضات ينبغي الطعن فيها قبل الاستشهاد بها.
• الادعاءات السببية — «X سبّب Y» يجب أن يقيّمه خبير في المجال، لا نموذج لغوي.

وفي أعمال التسليم لدينا، يراجع محللون مؤهلون مخرجات GUS قبل مغادرتها الاستوديو. أما لمستخدمي المنصة، فنوفّر قاعدة الأدلة نفسها — الاستشهادات والمنهجية وعدم اليقين — كي يستطيع فريقك تطبيق حكم مكافئ.

5 · كيف تستخدم GUS جيداً

بضع عادات تحسّن كثيراً جودة العمل الخارج من GUS — ومن أي مساعد ذكي.

• تعامل مع الإجابة الأولى بوصفها مسودة. استخدم GUS لإبراز رؤى مرشّحة، ثم تحرَّ — غيّر السؤال، وغيّر الوحدة المكانية، وانظر في البيانات الخام، واسأل «ماذا كنت أتوقع أن يكون هذا ولماذا».
• تحقّق من الأرقام الحاملة. إذا كان رقم ما ذاهباً إلى ورقة مجلس إدارة أو تقرير تخطيط أو قرار سياسات، فاضغط على الاستشهاد. فقراءة المصدر لثلاثين ثانية تمنع قدراً كبيراً من الإحراج.
• قابِل النتائج بمعرفة من يعرفون. فالعامل المجتمعي أو مشغّل النقل أو المخطط الطويل الخبرة كثيراً ما يعرف أشياء لم تسجّلها البيانات بعد. استخدم GUS لتأطير المحادثة، لا لاختصارها.
• اسأل GUS عما قد يكون خاطئاً. مطالبة مفيدة: «ما أقوى الأسباب التي تجعل هذا التحليل مضلّلاً؟» فالنظام جيد إلى حد معقول في اختبار نفسه نقدياً حين يُدعى إلى ذلك.
• وثّق سلسلة الاستدلال. حين تدعم GUS توصيةً، سجّل السؤال الذي طرحته، ومجموعات البيانات المستخدمة، والافتراضات المعنية. فالقرارات الخاضعة للتدقيق العام تحتاج إلى أثر موثّق.

6 · حدود معروفة

نحاول أن نكون صريحين بشأن ما ليست GUS جيدة فيه بعد. وفيما يلي مجالات نوصي فيها بحذر خاص.

• الأحداث الحديثة جداً. بعض مجموعات البيانات تُحدَّث شهرياً، وبعضها سنوياً. وفي المواقف سريعة التغيّر — إغلاق، أو حادث، أو تطوير جديد تماماً — قد لا تعكس GUS بعدُ الواقع على الأرض.
• البيانات غير الرسمية أو غير الموثّقة أو المتنازع عليها. المستوطنات العشوائية والأعمال غير المسجّلة والحدود المتنازع عليها ممثَّلة تمثيلاً ناقصاً بصورة منهجية في مجموعات البيانات الرسمية. ونستكمل هذه حيثما استطعنا، لكن الفجوات تبقى.
• التفاصيل الدقيقة شديدة المحلية. GUS قوية على مستويات الحي والمقاطعة والمدينة. أما لمبنى منفرد أو شارع واحد، فالملاحظة الميدانية كثيراً ما تتفوق على التحليل عن بُعد.
• التنبؤات والمستقبلات. تعتمد التوقعات على افتراضات بشأن السلوك والسياسات والاقتصاد. وتستطيع GUS نمذجة السيناريوهات؛ لكنها لا تستطيع أن تخبرك أي سيناريو سيحدث.

7 · الإبلاغ والملاحظات

إذا بدا شيء خاطئاً، فأخبرنا من فضلك. فأسرع طريق لتتحسّن GUS هو أن يبلّغ مستخدموها عمّا لا يطابق معرفتهم على الأرض.

وبشأن نقطة بيانات أو مخرَج بعينه يبدو غير صحيح، راسل ai@silacities.com. ويُرجى تضمين رابط أو لقطة شاشة للإجابة، والسؤال الذي طرحته، والمصدر الذي تعتقد أنه صحيح. ونقرّ باستلام البلاغات خلال يومي عمل.

وللأسئلة الأوسع عن نهجنا، أو الشراكة في الذكاء الاصطناعي المسؤول، أو التعاون البحثي، راسل hello@silacities.com.

وللاطلاع على التزاماتنا الأوسع بشأن البيانات والأمن والمعايير التحريرية، راجع تقرير الشفافية، وصفحة الأمان، وإشعار معالجة البيانات، والسياسة التحريرية.