Eingerichtet am 20.12.2000

Moral-Technik

Leserbrief an die Frankfurter Allgemeine Zeitung, dort abgedruckt am 4. Juli 1969

. . .

Die Frage, ob ein System (Lebewesen, Maschine) selbständig denken oder eine Arbeit verrichten könne oder nicht, hängt nicht davon ab, ob dieses System geschaffen wurde (oder sinnvoll geschaffen wurde). Dem System programmierte Datenverarbeitungs­anlage kann man also durch das Argument, es sei programmiert, eine Denkfähigkeit nicht absprechen.

Neben dem Problem der gesellschaftlichen Moral der Rechenmaschinen­bediener gibt es - auch bei gutem Willen dieser Leute - ein Problem des Umgangs mit den Rechnern. Es ist ja nicht so, daß die Ergebnisse, die ein Rechner ausgibt, von den Programmierern und Bedienern im einzelnen vorausgesehen werden. Sonst brauchte man keine automatischen Rechner. Aber es sollten die genauen Bedingungen und Bedeutungen der Ergebnisse gewußt sein. Nun ist es aber zum Beispiel bei Firmen und Behörden, die Rechenprogramme längere Zeit routinemäßig benutzen, durchaus möglich, daß die Bedingungen im Bewußtsein der Bediener verblassen, und daß einer Änderung dieser Bedingungen nicht rechtzeitig eine Änderung der Programme folgt. Man wird dann beim Gebrauch der Ergebnisse sein Handeln auf falsche Voraussetzungen gründen. Computer können also schon heute durchaus "tückisch" sein und nicht nur "harmlose Befehlsempfänger".

Harmlos wäre im Vergleich hierzu noch eine denkbare Unfähigkeit im Gebrauch von Datenverarbeitungs­anlagen, die sich darin äußern würde, daß etwa eine Firma oder Behörde im Zuge der "Rationalisierung" zehn Pfennig einzusparen sucht, indem sie dem Kunden oder Bürger eine Mehrarbeit im Wert von fünf Mark zumutet beim Ausfüllen eines Formulars oder Lesen einer Rechnung.

Umgekehrt dürften die genannten Umstände harmlos sein im Vergleich zu den Gefahren, die in den zukünftigen Entwicklungen liegen. Da es nämlich keinen festzulegenden Unterschied gibt zwischen den Bedingungen, deren sich der Benutzer beim Lösen einer Aufgabe bewußt sein muß, und den Bedingungen, die der Rechner selbst verarbeitet, wird man immer mehr Teile der Arbeit der Kontrolle und Erwägung von Möglichkeiten dem Rechner übertragen. Dafür wird man immer komplexere Rechner entwickeln und diese benutzen, um noch komplexere zu entwickeln, so daß also nicht einmal mehr die Entwicklung der Rechner durchsichtig sein wird. Diese werden verfeinerte Aggregate für die Ein- und Ausgabe von Information haben; zur direkten Kommunikation zum Teil als Gegenstück zu menschlichen Sinnesorganen und Gliedern. Und wie im Jargon der Rechenmaschinen­benutzer jetzt schon Wendungen üblich sind wie "die Maschine weiß das", dürfte es in der Zukunft ernstlich zweckmäßig sein, einer Maschine zuzubilligen, daß sie etwas "wissen", etwas "sagen", etwas "tun" kann. Wünscht man solche Fähigkeiten per definitionem dem Menschen vorzubehalten, wird man analoge Begriffe bilden müssen, um dann erst zur Analyse der Sachprobleme zu kommen. Diese Analyse wird den Zweck haben müssen, eine Art Moral-Technik für den Umgang mit Maschinen vorzubereiten. Geeignete Leute sollten diese Analyse systematisch vorantreiben; dafür wäre es jetzt nicht zu früh, aber vielleicht bald zu spät.