Selbst wenn sich die innere Funktionsweise darstellen ließe, wird sie für gewöhnlich in eine Blackbox verpackt und dem Zugriff und der Einsicht der Anwender*innen entzogen14.
Dieses hat mehrere Gründe:
Know-how-Schutz Programme lassen sich sehr schnell ohne wesentliche Materialkosten reproduzieren. Deswegen sind Unternehmen darauf angewiesen Ihren Quellcode zu verstecken, um Gewinne zu erwirtschaften.
Der Anwendbar ist meist am Quellcode bzw. der Funktion der KI nicht interessiert, da ein tieferes Verständnis nicht zwangsläufig einen besseren Umgang mit der Anwendung ermöglicht. Außerdem ist ein nicht unerhebliches Grundwissen in der Informatik erfindlich den jeweiligen Code der Anwendung oder deren tieferliegendes Funktionsprinzip zu verstehen.
Die Entwicklung von Windows hat außerdem aufgezeigt, dass die Stabilität des Programms antiproportional mit den Möglichkeiten, den der Anwender hat das Programm manuell zu verändern oder zu parametrieren. Deswegen werden einige Funktionen bei Android und Windows mit neueren Versionen abgeschafft, da ein Großteil der Anwender sie nicht fehlerfrei Anwenden kann. - Zum Leidwesen der technikaffinen Anwender-