मई 2016 में, टेस्ला का ऑटोपायलट सिस्टम संघीय जांच के दायरे में आया, जब ओहियो निवासी जोशुआ ब्राउन की विल्सटन FL के बाहर एक स्टेट हाईवे पर मौत हो गई। 40 वर्षीय ड्राइवर अपनी 2015 टेस्ला मॉडल एस को ऑटोपायलट पर चला रहा था, जब कार उसके सामने सड़क पार कर रहे ट्रैक्टर-ट्रेलर से टकरा गई। ब्राउन की कार 74 मील प्रति घंटे की रफ़्तार से चल रही थी, इसलिए ऑटोनॉमस ड्राइविंग सिस्टम टक्कर से बचने के लिए समय पर ब्रेक सक्रिय करने में विफल रहा। एक साल से अधिक समय के बाद, राष्ट्रीय परिवहन सुरक्षा बोर्ड ने निष्कर्ष निकाला कि कार को नियंत्रित करने वाले सिस्टम ने घातक दुर्घटना में एक प्रमुख भूमिका निभाई थी।
एनटीएसबी ने निष्कर्ष निकाला कि टेस्ला का ऑटोपायलट सिस्टम जो वाहन को स्वचालित रूप से चलाने और नियंत्रित करने में सक्षम है, ने अपेक्षित रूप से काम किया है, लेकिन इसमें ऐसे ड्राइवर को लॉक-आउट करने के लिए सुरक्षा उपायों की कमी थी जो इसे अनुचित तरीके से इस्तेमाल कर रहा था। यह दायित्व के एक दिलचस्प तत्व को सामने लाता है, क्योंकि ड्राइवर सड़क पर वाहन को स्वायत्त रूप से चलाने में सक्षम था जिसके लिए इसे डिज़ाइन नहीं किया गया था। बोर्ड की पिछली रिपोर्ट ने निष्कर्ष निकाला कि यह दोष मानवीय त्रुटि और ऑटो निर्माता के सिस्टम नियंत्रण की कमी के संयुक्त प्रभाव के कारण था। इस प्रकार, सिस्टम को स्वयं संचालन दोष नहीं माना गया।
घातक दुर्घटना के लिए जिम्मेदार परिस्थितियों ने कई मानवीय त्रुटियों का संकेत दिया। टेस्ला की ऑटोपायलट प्रणाली सीमित पहुंच वाली सड़कों पर उपयोग के लिए थी, न कि क्रॉस ट्रैफ़िक चौराहों वाले मार्गों पर। इसके अलावा, दुर्घटना से पहले, ऑटोपायलट की प्रणाली ने ब्राउन को स्टीयरिंग व्हील पर अपने हाथ रखने के लिए कई बार संकेत दिया था। सिस्टम की आवश्यकताएँ ड्राइवर के लिए संचालन के दौरान सड़क पर नज़र रखने के लिए भी हैं। श्री ब्राउन ने दुर्घटना से पहले ऑनलाइन वीडियो पोस्ट किए थे जिसमें दिखाया गया था कि कैसे सड़क पर नज़र रखे बिना और नियंत्रणों को शामिल किए बिना कई मिनट तक चलना संभव था।
घातक टक्कर के बाद, ऑटोमेकर ने ऑटोपायलट को संशोधित किया ताकि ड्राइवरों को अपने हाथों को पहिया पर रखने के लिए अधिक बार चेतावनी दी जा सके। यदि कोई ड्राइवर ऐसा करने में विफल रहता है, तो सिस्टम बंद हो जाएगा और कार को रोके बिना और इंजन को फिर से चालू किए बिना इसे चालू नहीं किया जा सकता है। चूंकि ट्रम्प प्रशासन और सरकारी नियामक निर्माताओं को स्वायत्त प्रौद्योगिकियों के साथ आगे बढ़ने के लिए उत्सुक हैं, परिवहन विभाग ने हाल ही में ओबामा प्रशासन द्वारा निर्धारित नीतियों को पलट दिया है जिसमें ऑटोमेकर्स को अधिक कड़े नियमों का पालन करने के लिए कहा गया है।
