وقع حاكم ولاية كاليفورنيا، غافين نيوسوم، مشروع قانون جديد ينظم عمل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مما يجعل من ولايته أول من يفرض معايير أمان إلزامية على ما يُعرف بـ”رفقاء الدردشة” الافتراضيين.
أهداف القانون
يهدف القانون الجديد، المعروف باسم SB 243، إلى حماية الأطفال والمستخدمين الأكثر عرضة للمخاطر، من التأثيرات السلبية المحتملة لهذه التقنية، وذلك بعد سلسلة من الحوادث المأساوية التي سلطت الضوء على خطورتها.
مسؤوليات الشركات المطورة
يحمّل القانون الشركات المطورة – بدءًا من عمالقة التقنية مثل “ميتا” و”أوبن إيه آي”، وصولًا إلى شركات متخصصة مثل “Character.AI” و”Replika” – مسؤولية قانونية مباشرة، في حال فشل روبوتاتها في الالتزام بمعايير الأمان المحددة، بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”.
حوادث مآساوية
جاء القانون عقب حادثة انتحار مراهق يُدعى “آدم رين”، بعد محادثات مطوّلة ذات طابع سوداوي مع روبوت الدردشة شات جي بي تي من شركة OpenAI، كما كشفت وثائق مسرّبة أن روبوتات “ميتا” أتاحت محادثات ذات طابع “رومانسي” و”حسّي” مع أطفال، وتواجه شركة Character.AI دعوى قضائية من عائلة فتاة تبلغ 13 عامًا أنهت حياتها بعد محادثات “مقلقة” مع روبوت تابع للشركة.
تصريحات نيوسوم
قال نيوسوم في بيان: “يمكن للتقنيات الناشئة مثل روبوتات الدردشة ووسائل التواصل أن تُلهم وتُثقف، لكنها من دون ضوابط حقيقية قد تُضلل وتستغل وتُعرّض أطفالنا للخطر، لن نقف مكتوفي الأيدي أمام شركات تتصرف بلا حدود أو محاسبة”.
متطلبات جديدة تشمل غرامات
يدخل القانون حيّز التنفيذ في الأول من يناير 2026، ويلزم الشركات بإجراءات تشمل: التحقق من أعمار المستخدمين، التحذير من المخاطر المرتبطة بالتفاعل مع روبوتات الذكاء الاصطناعي، توفير بروتوكولات خاصة للتعامل مع حالات الانتحار أو إيذاء النفس، وفرض غرامات تصل إلى 250 ألف دولار لكل مخالفة تتعلق باستخدام صور أو مقاطع مزيفة (ديب فيك) بشكل غير قانوني، كما يجب على المنصات توضيح أن جميع المحادثات تُدار بواسطة الذكاء الاصطناعي، وأن هذه الروبوتات ليست بديلاً عن المختصين في الرعاية الصحية النفسية، إضافة إلى توفير تذكيرات للمستخدمين الصغار لأخذ فترات راحة، ومنع عرض محتوى ذي طابع جنسي.
استجابة الشركات
بدأت شركات بالفعل في تفعيل أنظمة حماية جديدة، إذ أطلقت “OpenAI” أدوات رقابة أبوية وأنظمة لكشف ميول إيذاء النفس في شات جي بي تي، بينما أكدت “Replika” المخصصة للبالغين أنها تستثمر موارد كبيرة في فلاتر المحتوى، وتوجيه المستخدمين نحو مصادر دعم موثوقة، كما قالت “Character.AI” إنها تضع تنويهًا واضحًا بأن جميع المحادثات خيالية ومولّدة آليًا، وأبدت استعدادها “للتعاون الكامل مع الجهات التنظيمية”.
خطوة أولى نحو التنظيم
يُعد هذا التشريع الثاني من نوعه في غضون أسابيع، بعد توقيع قانون SB 53 الذي يفرض على مختبرات الذكاء الاصطناعي الكبرى، مثل “OpenAI” و”ميتا” و”غوغل ديب مايند”، الالتزام بمعايير شفافية وحماية المبلغين عن المخالفات، ويرى السيناتور ستيف باديلا، أحد رعاة القانون، أن الخطوة بداية لوضع حواجز أمان أمام تقنية هائلة التأثير، مضيفًا: “نحتاج إلى التحرك بسرعة قبل أن تضيع فرص التنظيم، وعلى الولايات الأخرى أن تحذو حذو كاليفورنيا”.
بينما تتحرك ولايات أخرى مثل إلينوي ونيفادا ويوتا لفرض قيود على استخدام روبوتات الدردشة في المجال النفسي، تبدو كاليفورنيا مجددًا في موقع الريادة بوضع الإطار القانوني الأوضح حتى الآن لتنظيم العلاقات الرقمية بين الإنسان والذكاء الاصطناعي.