يمكن أن يكون Robot AI Robot رائعتين ومستجيبين عاطفياً. كما يثيرون أسئلة حول التعلق والصحة العقلية
نعم هنا. نظرًا لأنه من المربح للغاية للتطبيق والبرنامج وصناع الأجهزة ضرب الأزرار العاطفية للمستخدمين ، فإنهم يتم تعيينهم فقط لتحسينه. تعد حيوانات الأليفة الروبوتات مثالًا على ذلك ، خاصة وأن السوق الواضحة والكبيرة هي الناتج عن مصاحب الصيانة المنخفضة للمسنين. من الغريب أن هذه القطعة فشلت في ذكر الحالة الشهيرة لكلاب Sony Aibo (الصورة في الأعلى أظهرت بعضًا من القديم جدًا) ، والتي غالبًا ما وجدوا أصحابها من المهم أن يكون لديهم طقوس جنازة للحداد على وفاتهم:
جانبا: على الرغم من أن الحفل الذي تم تصويره أعلاه كان بوذي ، إلا أن السائق كان شينتو. الاعتقاد في اليابان له نكهة شنتو قوية ، ويعتبر شينتو أن كل شيء له روح ، حتى الصخور ، فلماذا لا يكون الروبوت؟
أولئك الذين يفخرون بفكرة أنك فوق أن تصبح مرتبطًا عاطفياً بجهاز أو يقول ، شريك رومانسي منظمة العفو الدولية ، فكر في: هل تعلق في مطالبات الهاتف الغبية؟ هذا مثال آخر على أن يتم تشغيله بالتفاعل مع algo.
لكن لا تخفق بنفسك أن أكثر من الذكاء الاصطناعي أكثر فعالية في وضع السنانير من الإصدارات القديمة. إحدى الدعوى التي لم تحظى بالاهتمام الذي يستدعيه (من المسلم به أن بعض العناوين الرئيسية في الأماكن الأولية ، لكن يبدو أن القصة لم تكن قد حصلت على قوة على الرغم من ذلك) هي دعوى ضد الشخصية. AAI ووالدها ، Google ، تزعم أن Algo كان مسؤولاً عن انتحار المراهق. اعتبر التطبيق آمنًا لعمره (14). تغير سلوكه بشكل جذري بعد أن انخرط في الدردشات الجنسية المشحونة ، حيث أسقطه الرياضة ، وامتلاك أدائه المدرسي ، وحتى قائلاً إنه يريد موتًا خاليًا من الألم مع صديقته منظمة العفو الدولية. تخيل الإمكانيات الإمكانية الإضافية للسيطرة الاجتماعية إذا كان يمكن قطع الأشخاص ليس فقط من حساباتهم المصرفية ولكن عشاقهم الافتراضيين.
تشير المقالة إلى إمكانات رفاق الروبوت للتجسس. أتوقع أن يتم بيعها كميزة ، وأن الوحوش ستراقب كبار السن (الافتراض الضعيف) للمؤشرات الصحية وإرسال التنبيهات. وهل تعتقد أنه سيكون من السهل إلغاء الاشتراك بشكل فعال؟
بقلم أليسا مينينا جيونيما ، أستاذة مشاركة في التسويق ، كلية إدارة الأعمال. تم نشره في الأصل في المحادثة
تذكر Furbies-الألعاب الغريبة التي تشبه Gremlin من أواخر التسعينيات التي اكتسبت عبادة متابعة؟ الآن ، تخيل واحد مدعوم من chatgpt. هذا هو بالضبط ما حدث عندما قام أحد المبرمجين بتوصيل فروي ، فقط لكي يكشف عن رؤية زاحفة واضحة للهيمنة على العالم. كما أوضحت اللعبة ، “خطة Furbies للسيطرة على العالم تتضمن تسلل الأسر من خلال مظهرها اللطيف والمحبوب ، ثم استخدام تكنولوجيا الذكاء الاصطناعى المتقدمة للتلاعب بأصحابها والسيطرة عليها. سيقومون بتوسيع نفوذهم ببطء حتى يكون لديهم هيمنة كاملة على الإنسانية.”
إعادة إطلاق Hasbro في يونيو 2023 من Furby-بعد أقل من ثلاثة أشهر من الفيديو الذي يضم خطة Toys الشريرة على الإنترنت-تم استغلالها في الحنين إلى التسعينيات ، مما أدى إلى إحياء أحد ألعاب العبادة الكلاسيكية في العقد. لكن التكنولوجيا تتطور بسرعة – الانتقال من الألعاب الرجعية الغريبة إلى الآلات الذكية العاطفية. أدخل ROPET ، تم الكشف عن حيوان أليف روبوت من الذكاء الاصطناعي في معرض الإلكترونيات الاستهلاكية السنوية في يناير. تم تصميم Ropet لتوفير الرفقة التفاعلية ، وهو كل ما نعجب به والخوف في الذكاء الاصطناعي: إنه رائع وذكي ومستجيب عاطفياً. ولكن إذا اخترنا إحضار هذه الصحابة من الذكاء الاصطناعى في منازلنا ، فيجب أن نسأل أنفسنا: هل نحن مستعدون حقًا لما يأتي بعد ذلك؟
رفقة منظمة العفو الدولية وتعقيداتها
تُظهر الدراسات في التسويق والتفاعل بين الإنسان والحاسوب أن الذكاء الاصطناعي للمحادثة يمكن أن يحاكي بشكل مقنع التفاعلات البشرية ، مما قد يوفر الوفاء العاطفي للمستخدمين. والرفقة التي تحركها AI ليست جديدة. مهدت تطبيقات مثل Replika الطريق أمام الرومانسية الرقمية منذ سنوات ، حيث يشكل المستهلكون صلات عاطفية حميمة مع شركائهم من الذكاء الاصطناعى وحتى يعانون من الضيق عند حرمانه من العلاقة الحميمة ، كما يتضح من غضب المستخدم الضخم الذي أعقب إزالة REPLIKA لوضع الأدوار المثيرة ، مما تسبب في إعادتها إلى بعض المستخدمين.
لدى رفاق الذكاء الاصطناعى القدرة على تخفيف الوحدة ، لكن استخدامهم غير المنضبط يثير مخاوف خطيرة. تقارير عن المآسي ، مثل حالات الانتحار لصبي يبلغ من العمر 14 عامًا في الولايات المتحدة ورجل من ثلاثين شيئًا في بلجيكا ، يزعم أنه اتبع مرفقات مكثفة إلى شاتات الدردشة ، وتسليط الضوء على مخاطر الحميمية غير المنظمة-خاصة بالنسبة للأفراد المستبعدين اجتماعيًا ، والقاصرين ، والمسنين ، الذين قد يكونون أكثر ما يحتاجون إلى الرفيق.
كأم وعالم اجتماعي ، لا يسعني المساعدة في طرح السؤال: ماذا يعني هذا لأطفالنا؟ على الرغم من أن الذكاء الاصطناعى طفل جديد على الكتلة ، إلا أن ألعاب الحيوانات الأليفة الافتراضية العاطفية لها تاريخ في تشكيل العقول الصغيرة. في التسعينيات والألفينيات من القرن الماضي ، أدت تاماجوتشيس-حيوانات أليفة رقمية صغيرة موجودة في أجهزة بحجم سلسلة المفاتيح-إلى الضيق عندما “ماتوا” بعد بضع ساعات من الإهمال ، عودة أصحابها من البشر إلى صورة حيوان أليف شبيد يطفو بجانب قبر. الآن ، تخيل حيوانًا أليفًا من الذكاء الاصطناعي يتذكر المحادثات ، ويشكل الاستجابات ويتكيف مع العظة العاطفية. هذا مستوى جديد تمامًا من التأثير النفسي. ما هي الضمانات التي تمنع الطفل من تشكيل ارتباط غير صحي بحيوان أليف منظمة العفو الدولية؟
كان الباحثون في التسعينيات مفتونًا بالفعل بـ “تأثير تاماجوتشي” ، والذي أظهر أن الأطفال المرفقون المكثفون يشكلون حيوانات أليفة افتراضية يشعر حقيقي. في عصر الذكاء الاصطناعي ، مع خوارزميات الشركات المصممة بعناية لتعزيز المشاركة ، يمكن لهذا المرفق أن يفتح الباب أمام الروابط العاطفية. إذا كان حيوان أليف يعمل بالطاقة من الذكاء الاصطناعى يعبر عن الحزن عند تجاهله ، فيمكن للبالغ أن يرفضه بعقلانية-ولكن بالنسبة للطفل ، فقد يشعر بمأساة حقيقية.
هل يمكن أن يصبح مرافقو الذكاء الاصطناعى ، من خلال التكيف مع سلوكيات أصحابهم ، عكازات نفسية تحل محل التفاعل البشري؟ يحذر بعض الباحثين من أن الذكاء الاصطناعى قد يقومون بتطهير الحدود بين الرفقة الاصطناعية والبشرية ، مما دفع المستخدمين إلى تحديد أولويات علاقات الذكاء الاصطناعى على الروابط الإنسانية.
من يملك حيوانك الأليف من الذكاء الاصطناعي – وبياناتك؟
إلى جانب المخاطر العاطفية ، هناك مخاوف كبيرة بشأن الأمن والخصوصية. غالبًا ما تعتمد المنتجات التي تحركها AI على التعلم الآلي والتخزين السحابي ، مما يعني أن “أدمغتها” موجودة خارج الروبوت المادي. ماذا يحدث للبيانات الشخصية التي يجمعونها؟ هل يمكن اختراق أو معالجة الحيوانات الأليفة من الذكاء الاصطناعي؟ إن تسرب بيانات Deepseek الأخير ، الذي تم فيه الوصول إلى أكثر من مليون سجل حساس ، بما في ذلك سجلات دردشة المستخدم ، يمكن الوصول إليه من قبل علن ، هو تذكير بأن البيانات الشخصية المخزنة من الذكاء الاصطناعى ليست آمنة أبدًا.
أثارت ألعاب الروبوت المخاوف الأمنية في الماضي: في أواخر التسعينيات ، تم حظر الإغراء من مقر وكالة الأمن القومي الأمريكي على المخاوف التي يمكنهم تسجيلها وتكرار المعلومات المبوبة. نظرًا لأن ألعاب اليوم التي تحركها الذكاء الاصطناعي أصبحت متطورة بشكل متزايد ، فإن المخاوف المتعلقة بخصوصية البيانات والأمن أكثر أهمية من أي وقت مضى.
مستقبل رفاق الذكاء الاصطناعي: التنظيم والمسؤولية
أرى الإمكانات المذهلة – والمخاطر المهمة – لرفقة الذكاء الاصطناعي. في الوقت الحالي ، يتم تسويق الحيوانات الأليفة التي تحركها الذكاء الاصطناعى إلى البالغين الذين يتمتعون بالدهاء في مجال التكنولوجيا ، كما هو موضح في إعلان ROPET الترويجي الذي يضم امرأة بالغ يرتبط بالحيوانات الأليفة الآلية. ومع ذلك ، فإن الحقيقة هي أن هذه المنتجات ستجد حتماً طريقها إلى أيدي الأطفال والمستخدمين المستضعفين ، مما يثير مخاوف أخلاقية وسلامة جديدة. كيف ستقوم شركات مثل ROPET بالتنقل في هذه التحديات قبل أن تصبح الحيوانات الأليفة من الذكاء الاصطناعي سائدة؟
النتائج الأولية من بحثنا المستمر حول رفقة الذكاء الاصطناعى – التي أجريت بالتعاون مع الدكتورة ستيفانيا ماس (كلية IPAG للأعمال) والدكتور جيمي سميث (Fundação getulio vargas) – يقترح خطًا دقيقًا بين التقدم الداعم والتمكين والاعتماد النفسي غير الصحي ، والتوتر الذي نخطط له لتكوّل مجموعة البيانات والتحليل. في عالم يحاكي فيه الذكاء الاصطناعي المشاعر الإنسانية بشكل مقنع ، فإن الأمر متروك لنا كمستهلكين لتقييم بشكل نقدي الدور الذي يجب أن يلعبه هؤلاء الأصدقاء الآليون في حياتنا.
لا أحد يعرف حقًا أين تتجه الذكاء الاصطناعي بعد ذلك ، وتستمر المناقشات العامة والإعلامية حول الموضوع في دفع حدود ما هو ممكن. لكن في منزلي ، إنه سحر الحنين إلى الحنين ، ويغني الشذوذ الذي يحكم اليوم. تدعي Ropet أن لديها غرضًا أساسيًا واحدًا – أن يكون “حب مالكها” – هذا يبدو بالفعل وكأنه تهديد dystopian بالنسبة لي.
