Zitat:
Zitat von zournyque
Ich halte es für grob fahrlässig sich bei einem selbstfahrenden Auto auf nur eine Modalität zu setzen auch im Hinblick auf Manipulation. Ich denke eine Fusion ist die beste und sicherste Lösung. Lidar, optisch, ultraschall, akkustik am besten auch eine künstliche Nase 
Hier kann man sehen wie sich zB visuelle *NNs relativ einfach manipulieren lassen:
https://arxiv.org/abs/1707.08945
https://arxiv.org/pdf/1802.06430.pdf |
das ist sehr interessant.Und es ging "nur" um die Erkennung von Verkehrsschildern.
Die eigentliche Fehlerwartung liegt aber meiner Ansicht nach vor allem in den Limiterungen des Deep Learning und Big Data an sich. Da gehen wir davon aus, daß jedes Schild, jede Situation einfach oft genug vor kommt und sich der Algo dann die richtige Reaktion auf diese Situation "beibringt", z.B. durch die Fälle wo jemand ins Lenkrad gegriffen hat und die Situation manuall korrigieren musste.
Ich behaupte halt, daß die Zahl der möglichen Fälle quasi unendlich ist, und es eines Minimums an einer wirklichen "Echtzeit" KI bedarf die logisch und Situationsgerecht reagieren kann, etwa auf dem Niveau eines 6 jährigen. Und da reden wir noch nichtmal von den komplizierten Fällen, wo von links ein Hund und von rechts ein kleines Kind auf dem Bobbycar über die Strasse laufen und der Autopilot entscheiden muss was er opfert. Wir sind Jahrzehnte von der echten Erkennung und Lösung solcher Szenarien entfernt.
Aktuell schafft es ja Tesla nicht mal, eine 10x5m Wand vor sich zu erkennen und hat dann ein paar Strukturen auf diesem (LKW Anhänger) als Verkehrsschild identifiziert.
Oder hier die Stelle wo der Tesla ungebremst in einen Betonpfeiler rein ist:
https://www.youtube.com/watch?v=B2pDFjIvrIU
Naja, gibt 100 weitere Beispiele, braucht man mal nur Autopilot fail in Youtube eingeben.
In DE würdest du mit dem Autopilot vom Model S (Baujahr 2017), mit dem ich Erfahrung hab im Schnitt in jeder 3. AB Baustelle einen Totalschaden erleiden, der kommt absolut Null mit durcheinander laufenden Fahrbahnmarkierungen klar und zieht es dann vor, einfach in die Seitenbegrenzungen zu knallen.
P.S. Andere haben die Musk Lügen bezüglich Autopilot chronologisch besser sortiert:
https://arstechnica.com/cars/2019/03...bly-dangerous/