Black Box Systeme in kritischer Infrastruktur oder anderen kritischen Stellen wie in Waffen-Systemen sind grundsätzlich immer zu hinterfragen und wahrscheinlich fast immer abzulehnen. Auf der einen Seite, weil eine Blackbox oft das Thema Security und Safety eher kurz kommen lässt (gerade bei "KI" Problematisch weil sie so wie sie heute existiert) schlicht nicht in der Lage ist "sicher" zu sein) und auf der anderen weil es logisch problematisch ist, wenn die Ausgaben oder Aktionen eines Systems nicht vorhersagbar akkurat sind.
Und natürlich anstatt dass man in der "KI" Industrie versucht Lösungen zu erarbeiten, was nach aktuellem Technik-Stand essenzielle Änderungen am Aufbau von "KI" erfordern würde, versucht man lieber die alt bekannten Probleme zu übermalen und so zu verkaufen dass man Mrd. oder Brd. vom Staat bekommt um die nicht nachhaltige Wachstums-Gier zu stillen...
"KI" ist der aktuelle "Peak" was Kapitalismus Dystopie angeht und 1 zu 1 das was Cyberpunk schon vor Dekaden als Problem identifiziert hatte... Nur leider ohne coole Technik wie Hover-Bikes, Neon-Optik, VR Hacking, Laser Waffen für alle, Cyber-Implantate etc. Übrig bleiben alle Probleme von Black Box Systemen selbst sowie die massiven ethischen Probleme die durch den Einsatz von "KI" in z.B. in Waffen-Systemen oder Zahlungs-Systemen zustande kommen.
Gewinnen tut hier der Verbraucher nichts außer eine Flut an Produkten wo plötzlich der Toaster "KI" können muss, das Smartphone XX "KI" Features hat... Die im Alltag niemand brauch oder nutzt oder die Web-Suche anstatt genauen klassischen deterministischen Algorithmen plötzlich "KI" nutzt und sich dann Ergebnisse zusammen halluziniert weil das natürlich besser ist.
Aber solang "Number go up", fragt keiner nach ob die eigene "Lösung" eventuell nicht der Heilsbringer ist und man eventuell noch mal zurück and Reisbrett gehen sollte...
Und dabei wäre "KI" so wie sie heute ist für viele Nischen sehr gut und wird daher dort auch schon verwendet, nicht als Ersatz für Menschliche Expertise sondern als "First Line of Defense": meines Wissens nach sind z.B. "KI" Ansätze für die Verarbeitung von Krebs-Bildern (Haut, Gewebe...) sehr genau mit einer geringen Menge an False-Negatives (False-Positives sind hier ja weniger schlimm, da der Facharzt selbst der Kern bleibt) und werden daher heute schon teilweise als Erst-Diagnose eingesetzt, bevor ein Experten-Arzt tatsächlich Entnahmen macht. Nur ist die "KI" in diesen Fällen sehr spezialisiert und auch dort leider fehlbar: ist man außerhalb des Fensters in dem sie "KI" gute Ergebnisse liefert weil ihr Datenset aus dem aufgebaut ist, geht die Genauigkeit massiv nach unten. Gutes Beispiel hier: Hautkrebs bei dunkler haut scheint aktuell deutlich größere Ungenauigkeit zu haben. Sicher, sowas wird im Laufe der Zeit auch besser werden und dürfte dann für alle Menschen-Gruppen sinnvoll sein. Bis wir da sind dauert es aber noch etwas^^
![-=[CrysiS]=-](https://pics.computerbase.de/forum/avatars/m/542/542401.jpg?1532349185){kind=avatar}
