يلعب البشر، دورًا مهمًا في قبول التكنولوجيات الجديدة، وخاصة عندما يتعلق الأمر بالروبوتات، فحتى لو كنا شخصيًا لسنا تحت سيطرة شيء ما، فنحن غالبًا ما ترغب في تخفيف العبء من على أنفسنا بأن شخص آخر يفعل ذلك، البشر لديهم الإرادة الحرة والقدرة على اظهار التعاطف، فنحن على ثقة بأننا سوف نتخذ الخيار الصحيح عندما يحدث شيء سيء، المشكلة هي أنّ البشر لا يمكن التنبؤ بأفعالهم، يوجد هناك 7.6 مليار شخص على هذا الكوكب، كل شخص له قانونه الأخلاقي، ومدى من التجارب المختلفة التي تشكل أفعاله ولكل واحد سمات نفسية فريدة من نوعها التي توجهه حيال كيف يتفاعل مع الأحداث المجهدة.

 

وعند اختبار نظرية القيادة الخاصة بك على سبيل المثال، هذا هو تجربة الفكر الشهيرة التي يمكن تكييفها على النحو التالي، كنت تقود سيارة ويمر طفلا من أمامك، أوشكت على التوقف قبل أن تصدمه، إذا ما قررت أن تنحرف يساراً لتتجنبه، ستصدم عددا من المشاة وإذا ما انحرفت يمينا، يمكن أن تصدم نفسك وسائق السيارة الأخرى، ماذا تفعل، الخطوة الأولى هي سحب الفرامل بكل ما استطعت من قوة، ثم عليك أن تتخذ خيارا حول أي من الخيارات الثلاثة، ليس هناك إجابة صحيحة ولكنك سوف تتخذ قرارا دون وعي حول أي واحد منهم، قد تأخذ في الاعتبار مجموعة كاملة من الظروف لتبرير قرارك، بالطبع من غير المرجح أنك سوف تعترف تماما أي من العوامل التي أخذتها بعين الاعتبار، سوف يتفق الجميع بأنك قد كنت في موقف مستحيل.

وحال تغير السيناريو قليلا، أي أنّه كنت في سيارة ذاتية التحكم وحدث نفس الحادث، كانت فرامل السيارة بأقصى ما يمكن أن تكون، ولكن من الذي قرر اتخاذ أي من الخيارات الثلاثة؟ فعلى عكسك، يمكن أن يكون هناك مستوى أعلى بكثير من المساءلة، ويمكن محاكاة هذه الأنواع من السيناريوهات آلاف المرات وتنبؤ النتائج والتحقق منها، وسيقوم الإنسان ببرمجة النتائج، ولكن لن يكون هناك شخص واحد يفعل ذلك - سيتم بناء توافق في الآراء بين مختلف الأطياف العلمية والسياسية والاجتماعية.

وأظهر التاريخ أنه عندما يتم استبدال التحكم البشري بالسيطرة الآلية، ازدادت السلامة وقلت عدد الحوادث - سواء كانت تلك المصاعد في أوائل القرن العشرين أو الطائرات في أواخر القرن العشرين، ومن المرجح أن يكون للنقل الآلي نفس المزايا، ولكن هناك مجال واحد حيث الخوف من التنازل عن السيطرة يمكن أن يكون له آثار عميقة، وخطيرة بما فيه الكفاية حيث أن الأمم المتحدة بدأت في مناقشة هذا الموضوع - الروبوتات القاتلة، بل إن البعض يجادل بأنه من خلال تقييد أبحاث الذكاء الاصطناعي في هذا المجال، يمكننا منع مستقبل أدب المدينة الفاسدة أو الديستوبيا أو عالم الواقع المرير، مثل تلك التي تنبأ بها في الفيديو المثير "سلوتيربوتس" أي الروبوتات القاتلة، إن الحرب والعنف هي موضوعات عاطفية، ولكن من السذاجة أن نفكر في أن البشرية سوف تتخلص منها، فالحجج من كلا الجانبين معقدة جدا عندما يتعلق الأمر باستخدام الروبوتات في الحرب ولكن في نهاية المطاف يخضع كل ذلك إلى السيطرة عليه.

والخوف الأكبر هو من الأسلحة ذاتية التحكم هو أن أي شخص يمكن أن يصنعها، كل ما تحتاجه هو الروبوت منخفضة التكلفة (ربما حتى طائرة بدون طيار لعبة)، وكاميرا وبعض التعليمات البرمجية من الإنترنت ويصبح لديك روبوت قتل ذاتي التحكم، سوف يحتاج الروبوت القاتل لمعالجة الصور، وخاصية التعرف على الوجه وقدرات الموقع الجغرافي، هذه هي بالفعل جزءا لا يتجزأ تقريبا من كل جانب من جوانب حياتنا.، استخدام الروبوت المتحرك أصبح أكثر انتشارا في الحياة اليومية لذلك فمن غير المحتمل أن يتوقف تقدمهم، والواقع أن الآلات هي أكثر موثوقية وخضوعا للمساءلة من البشر.