Nutzer haben nur wenig Vertrauen in Algorithmen
Nein, Nutzer haben wenig Vertrauen in die Menschen die die Algorithmen erstellen / einstellen / beauftragen.
geht nicht / würde gegen Geschäftsgeheimnis verstoßen / zu kompliziert
Sry, aber das ist schlicht Blödsinn. Kleiner Rant:
natürlich müssen Unternehmen offenlegen was sie dem Kunden anbieten, das gewünschte Verhalten eines Alg. gehört da dazu, z.b. ob er gewichtet oder nicht wenn man nach dem niedrigsten Preis sucht, d.h. zählt nur der Preis oder kommen Faktoren wie Auslastung hinzu was darin resultiert dass man nicht den faktisch niedrigsten Preis angezeigt bekommt sondern jenen der auch für die Fluglinie die Auslastung steigert, ein bisschen so als würde Google die Suchergebnisse gewichten, das beste Ergebnis ist dann auf Seite 2 anstatt auf Seite 1 mit all den Werbe-/Partnerlinks.
Perverser wirds wenn Algs. darauf ausgelegt sind deine Schmerzgrenze auszutesten, ein bisschen so wie in der aktuellen Lootbox Debatte, wie hoch kann der Preis auf Seite 1 gehen bevor du Seite 2 und 3 der Suchergebnisse anklickst usw., alles auf dich personalisiert, d.h. maximale Diskriminierung. Sowas muss offengelegt werden, von mir aus in Marketinggewäsch gepackt.
Für technische Betriebsgeheimnisse gibts Behörden die prüfen können, die müssen dann eben geschaffen werden und entsprechende Befugnisse erhalten, ganz genau so wie man es bei z.b. Banken macht mit der Bankenaufsicht macht. Da wird einerseits profilaktisch geprüft und auf Anzeigen wegen Missbrauch reagiert.
Das sind ebenfalls hochsensible Daten die in Datenbanken mit automatischen Kriterien Warnungen hervorrufen (z.b. verdächtige Transaktionen bei Geldwäsche), läuft alles automatisch mit Algs., Missbrauchspotenzial maximal vorhanden.
Ja, Betriebsgeheimnis hin oder her, da kommt dann die Behörde und prüft mal ob das System so funktioniert wie es soll, inkl. IT, ob es so eingestellt ist wie es soll und sich an die Richtlinien hält, sonst gibts empfindliche Strafen, und das passiert öfter als Bürger 0815 glaubt, wird halt selten öffentlich in der Presse breitgetreten.
Jedes Unternehmen unterliegt dem Recht, muss also im Notfall bereit sein seine Handlungen nachvollziehbar zu erklären, wenn sie das nicht können ist das deren Problem, nicht das der Gesellschaft.
Wer einen selbstlernenden Alg. verwendet muss sich dann eben den Aufwand machen die Protokollierung durchzuführen (ja, ist möglich), zu automatisieren oder darauf zu verzichten. Punkt. Das nennt sich Kostenkalkulation. Nicht immer ist das "bessere" Werkzeug kosteneffektiver weil z.b. die Wartung zu teuer ist.
Es ist doch schlicht Blödsinn anzunehmen unsere Welt würde automatisch besser nur weil wir selbstlernende Algs. einsetzen die wir nur noch unter extremen Aufwand verstehen, wird das jetzt so eine Art "Gott 2.0", ein neuer Glaube dem wir die Welt anvertrauen?
