تطور التكنولوجيا إلى أبعد مدى لا يعني استبعاد نسبة الخطأ، حيث يصعب أن يصل تعلم الآلة والذكاء الإصطناعي إلى حد الكمال، وقد يكون الاعتماد على الملاحة الذاتية في السيارات أحد المميزات التي يمكن أن يكون لها أيضاً آثار عديدة سلبية، مثل حادث اصطدام نموذج S من Teslaبشاحنة أثناء تشغيل نظام القيادة الذاتية.
وفقاً لوكالة Reuters وصحيفة New York Times أعطت شركة Tesla اثنين من الروايات المحتملة حول حادث تحطم سيارتها من النموذج S في ولاية فلوريدا، و كلاهما لا تتعلقان بنظام القيادة الذاتية.
في لقاء مع لجنة التجارة في مجلس الشيوخ الأمريكي، قدم صناع السيارة Tesla في نموذج S نظريتين لتفسير حادث السيارة الأخير، حيث ترجح الأولى احتمال وقوع الحادثة نتيجة لعدم كشف نظام كاميرة فرامل الطوارئ التلقائي والرادار عن الشاحنة القادمة إطلاقاً، والنظرية الثانية أن نظام الرادار رأى الشاحنة إلا أنها صنفت على أنها جزأ من هيكل كبير ثابت، مثل جسر أو مبنى، حيث انه مبرمج لتجاهل الهياكل الضخمة لمنع كبح الفرامل الوهمي.
والحادثة كانت لسيارة من النموذج S التي اصطدمت بشاحنة أثناء تشغيل الطيار الآلي أو نظام الملاحة الذاتية، حيث أن نظام القيادة شبه الذاتية هو أحد التقنيات الحديثة نوعاً ما، مما أدى إلى فتح تحقيقات في كل من مجلس سلامة النقل الوطني NTSB، ولجنة الأوراق المالية والبورصة في الحادث، ووفقاً للنتائج الأولية لسلامة النقل أن السيارة كانت مسرعة في وقت الإصطدام بالشاحنة.
جدير بالذكر أن صناع السيارة Tesla اعتبروا نظام الفرامل منفصل تماماً عن نظام القيادة الذاتية، المسئول عن التوجيه، وتغير المسارات، حيث نفت Tesla أن يكون الطيار الآلي سبب الحادث، على الرغم من أنه بالتأكيد له الدور الأكبر في توجيه المركبة والتحكم بباقي أجهزتها أثناء توليه القيادة، وذكر بيان أصدرته الشركة في شهر يونيو: “أن قائد السيارة ونظام التحكم الذاتي في القيادة عجزوا عن رؤية الشاحنة البيضاء مع ضوء النهار لذا لم يتم جذب الفرامل”.
