Military robots in today

Military robots in today’s asymmetric wars

„They don’t forget their orders." (P. W. Singer 2009)

Hans Geser

Current trends toward more autonomous weapon systems

The absolute zero point of technological development is marked by man working and fighting with his bare hands: thus controlling all sensomotoric and processes and mental judgments with his own bodily functions.

In a long-term evolution stretching from stone axes to bows and arrows, canons, firearms and intercontinental nuclear missiles, man has succeded to externalize and amplify the motoric aspects of warfare, while sensoric and (especially) reflective processes remained on archaic no-tech or low-tech levels. As a consequence, war technology assumed the status of an intervening variable increasing the distance and decreasing the contact between fighters and their targets: thus making the relationships between human action and its consequences ever more indirect and and ever more difficult to predict, verify and control.

„Each new military technology, from the bow and arrow to the bomber plane, has moved soldiers farther and farther from their foes." (Singer 2009c: 44).

Such developments are most clearly seen in the rise of „automated" weapons ac tivated without any intervention of the figjting party: e. g. in the case of pitfalls later followed by booby traps and spring gun systems (as implemented at the bundary between Western Germany and the Sowjet-controlled DDR) (Arkin 2007: 4). .

Since long ago, then,we already have to cope with the ethical problems arising from the blurring of responsiility associated with such „self-activating" devices: Whoever installs antipersonnel mines hazards the consequence that innocent individuals will be killed by them – without running the risk of being accused of „murder" because no direct causal accountability can be established; and a bomber pilot may considered to be „negligent" (or at most „reckless"), but never strictly „culpable" for the collateral damages he or she causes by just fulfilling their mere duties.

As we know from Stanley Milgram‘s famlus experiments (Milgram 1974) as well as from many other empirical sources, the distance caused by intervening technical divces causes dangerous moral disinhibitions that are much less present among collocal individuals readily respecting elementary social norms based on empathic reciprocal relations.

Weapons become „robotic" to the degree that in addition to motoric potentials, they are also equipped with sensoric capacities as well as with computing capacities thAt enable them to use such sensoric inputs for making „their own decisions": so that their activation is at least partially governed by internal processes, not by (intentional or unitentional) external stimuli stermming from human beings(Sullins 2006: 26) . .

„Robotisch" werden Waffen in dem Masse, wie sie neben motorischen auch mit

„Robots are machines that are built upon what researchers call the "sense-think-act" paradigm. That is, they are manmade devices with three key components: "sensors" that monitor the environment and detect changes in it, "processors" or "artificial intelligence" that decide how to respond, and "effectors" that act upon the environment in a manner that reflects the decisions, creating some sort of change in the world around a robot." (P. W. Singer in Shachtman 2009).

Notwithstanding their wide popularity of Isaac Asimovs writings and many other Science Fiction literature of the 20th century, progreass in military robots has been conspicuousaly slow, so that no autonomously acting warbots competing with human soldiers (or substituting them in fighting activities) are yet in sight. In fact,

„The pentagon had lilttle to show after decades of research, leading the promise of robotics to be largely derided and dismissed as a failure of overly exuberant imagination." (Carafano/Gudgel 2007:2)

Nevertheless, we could see the rise and continuous perfectioning of stationary semi-autonomous weapon systems with mainly dedicated to defensive operations: beginning with

- the famous „Norden bombsight in World war II which „made calculations of height, speed, and trajectory too complex for a human alone when it came to deciding when to drop a bomb." (Singer 2009: 39);

- teleoperated tanks of the German Wehrmacht used quite similarly as analogous vehicles in Iraq and Afghanistan today (Donnelly 2005).

In the American Navy, such technological strands are vividly exemplified by the highly sophisticated "Aegis-system" introduced in the 1980ies. When fully activated, it is capable of protecting the ship on which it is installed by observing the surrounding environment and by intercepting approaching torpedoes or missiles on the basis of autonomous decisions,. (Sullins 2010: 269ff.).

In the American army, some very recent developments have resulted in locomotive devices that have far more resemblence to Asimovs imaginations. This is certainly true for, the "irobot 510 Packbot" extensively used in the Iraq war: a portable mobile device that can be efficiently used for a wide range "dangerous, dull and dirty" acitvities shunned (or impossible to fulfill) by conventional human soldiers:

„About the size of a lawn mower, the PackBot mounts all sorts of cameras and sensors, as well as a nimble arm with four joints. It moves using four "flippers." These are tiny treads that can also rotate on an axis, allowing the robot not only to roll forward and backward using the treads as a tank would, but also to flip its tracks up and down (almost like a seal moving) to climb stairs, rumble over rocks, squeeze down twisting tunnels, and even swim underwater. The cost to the United States of this "death" was $150,000." (Singer 2009a: 319).

In the US Airforce, the trend toward more autonomous weaponry is illustrated by

--the development of „smart bombs" used in the Golf War of 1991) that were capable of finding and optimally shooting their target after they have been released;

- the rise of „cruise missies" able to travel without human guidance and to recognize and attack their target on the basis of internal programming;

- the recent emergence of „Predator" and „MQ-9 Reaper" drones capable of monitoring suspicious territories for detecting potentially relevant changes, of attacking envisaged targets and of returning home without human assistance (e. g. in cases communication links are broken) (Axe 2009)..

Skeptics may argue that packbots, drones and similar devices are still submissive human tools not unlike all conventional weapons ever known: as they are usually (tele)operated" by responsible soldiers and any „autonomy" they enjoy is strictly specified and based on (always reversible) acts of human „permission".

However, such arguments ignore that regardless of such technological condtions, many factors work together that such devices „emancipate" themselves from human control, and that they feed back on human behavior mor than human behavior is determining what they do.

Certainly, it is always possible to reduce robot machines to the status of pure „advisors" whose recommendations can be ignored or overrriden by „human veto power", but there ar many reasons why it is preferred to let them act on their own:

1) Nur auf diese Weise lassen sich die immensen Zeitvorteile elektronischer Sensor- und Entscheidungssysteme ausnutzen, auf die man vor allem in dringlichen Fällen (z. B.unerwarteten Feindangriffen mit schnellen Geschossen ) nicht verzichten kann(Royakkers / van Est 2010);

2) Nur so lässt sich vermeiden, dass zwischen Roboter uind Einsatzzentrale Kommunikationskanäle offengehalten werden müssen, die vom Feind allenfalls belauscht und gestört (bzw,."gehackt") werden könnten(Herman/Fritzson/Hamilton 2008);

„If the robots aren’t going to fire unless a remote operator authorizes them to, then a foe need only disrupt that communication. 　Military officers counter that, while they don’t like the idea of taking humans out of the loop, there has to be an exception, a backup plan for when communications are cut and the robot is "fighting blind." (Singer 2009a: 41).

3) Die Knappheit an qualifiziertem Personal kann dazu nötigen, arbeitintensive Dauersteuerungen durch intermitterende „Ueberwachung" zu ersetzen.(Singer 2009a: 41; (Sullins 2010: 269) Je umfangreicher die Fähigkeiten jedes Roboters, desto mehr von ohne kann jeder Supervisor überwachen (= grosser „span of control"), weil er ihr Verhalten nur noch sporadisch überprüfen muss. Wie im Falle professionell qualifizierter Mitarbeiter (vgl. Blau 1967) wird Kontrolle durch Vertrauen ersetzt. Und ie komplexer und variabler die Kampfumwelt jedes Robotors, desto schneller gelangt der menschliche Ueberwacher an seine Kapazitätsgrenzen, und desto mächtiger wird der Druck sein, den Robotern viel autonomen Entscheidungs- und Handlungsspielraum zu gewähren. Eine Kompromisslösung besteht dann darin, dass der Roboter bei bestimmten Kategorien von Entscheidungen gezwungen wird, vor Ausführung der Aktion mit dem Ueberwacher „Rücksprache" zu nehmen.

„To achieve any sort of personnel savings from using unmanned systems, one human operator has to be able to "supervise" (as opposed to control) a larger number of robots. For example, the Army’slong-term Future Combat Systems plan calls for two humans to sit at identical consoles and jointly supervise a team of 10 land robots. In this scenario, the humans delegate tasks to increasingly autonomous robots, but the robots still need human permission to fire weapons." (Singer 2009a: 41)

5) In dem Masse, wie Roboter mit Lernfähigkeit ausgestattet werden, können sie sich aus Erfahrungen zusätzliche, weder von ihren Konstrukteuren noch ihren Einsatzleitern überblickbare Entscheidungsfähigkeiten aneignen, die ein gewisses „Vertrauen" verdienen und es immer schwieriger (bzw, risikoreicher) machen, menschlicher urteilskraft den Vorzug zu geben (Sparrow 2007: 70; Lin/Bekey/Abney 2008: 23).

For our purposes, an autonomous robot is one that can complete the majority of its mission, including any use of deadly force, with a human operator or other team member serving only in a command, or other supervisory, role. (Sullins 2010: 269).

In allen Fällen besteht immer die Möglichkeit, den Roboter auf den Status eines schieren „Beraters" zurückzudrängen, dessen Empfehlungen man ignorieren oder dessen automatische Vorgehensweisen man durch Ausübung menschlicher VETO-Macht ausser Kraft setzen kann (Singer 2009a: 39f.).

Allerdings wirken vielerlei Kräfte dahin, den vorrangig automatischen Modus zu präferieren:

There is a widespread myth that computers can only deal with deductive, logical, and mathematical patterns of reasoning. This myth is false and… dangerously misleading. Computers certainly do take guesses and follow hunches. Nowadays they are very often programmed to do precisely that. (Whitby 2008: 553)

Artificially intelligent weapon systems will thus be capable of making their own decisions, for instance, about their target, or their approach to their target, and of doing so in an ‘intelligent’ fashion.²¹ While they will be programmed to make decisions according to certain rules, in important circumstances their actions will not be predictable. However this is not to say that they will be random either. Mere randomness provides no support for a claim to autonomy. Instead the actions of these machines will be based on reasons, but these reasons will be responsive to the internal states —‘desires’, ‘beliefs’ and ‘values’— of the system itself.

Partielle Marginalisierung des Menschen bei Telerobotern (z. B. Drohnen)

„teleepistemological distancing":

Die aus der Ferne lenkenden Piloten sind zuindest in dem Sinne nicht mehr autonom, als sie in kognitiver Hinsicht völlig auf die vom Teleroboter gelieferten Daten angewiesen sind und die Gefechtssituation ausschliesslich unter den Aspekten, die durch die eingebauten und programmierten Sensoren bestimmt sind, wahrnehmen können. (Sullins 2010: 268).

Einfluss der Menschen reduziert sich auf VETO-Macht

the human power "in the loop" was actually only veto power, and even that was a power that military personnel were unwilling to use against the quicker (and what they viewed as superior) judgment of a computer (Singer 2009a: 40). Veto-Macht bedeutet, dasss man die Ratschläge des Systems zwar ablehnen kann, dass man aber nicht in der Lage ist, alternative Aktionen zu konzipieren. In diesem Sinne erhält die Technologie de facto die Führung, indem sie den Alternativenraum determiniert.

Problem: dem Ratschlag des Computers wird (zu) oft Vertrauen geschenkt.

The most dramatic instance of a failure to override occurred in the Persian Gulf on July 3, 1988, during a patrol mission of the U.S.S. Vincennes That day, the Vincennes’s radars spotted Iran Air Flight 655, an Airbus passenger jet. The computer system registered the plane with an icon on the screen that made it appear to be an Iranian F-14 fighter (a plane half the size), and hence an "assumed enemy."

Aegis was in semi-automatic mode, giving it the least amount of autonomy, but not one of the 18 sailors and officers in the command crew challenged the computer’s wisdom. They authorized it to fire. Only after the fact did the crew members realize that they had accidentally shot down an airliner, killing all 290 passengers (Singer 2009a:40).

　

　

　

Funktionsmerkmale und Einsatzperspektiven

Robots are particularly attractive for roles dealing with what people in the field call the "Three D’s"—tasks that are dull, dirty, or dangerous. (Singer 2009a: 36).

Fraglos sind mit dem Einsatz von Kriegrobotern Leistungsvorteile verbunden, die weit über menschliche Kapazitäten hinausreichen und sich deshalb sich vor allem auf die taktische, aber auch die strategische Ebene der Kriegsführung auswirken können und momentan vor allen dazu führen, die den Asymmetriegrad der zwischen den USA und allen ihren Gegnern stattfindenden Konflikte zu verstärken.

Rein physisch sind sie z. B. in der Lage, im Lufteinsatz noch unter Bedingungen sechzehnfacher Schwerkraft zu funktionieren (Herman/Fritzson/Hamilton 2008) , für den Menschen unerreichbare Tunnelgänge und Unterwassereinrichtungen zu durchkämmen oder fünfmal schneller als konventionelle Soldaten an Fahrzeugen Minen zu entschärfen.

„If they thought an insurgent was hiding in an alley, they would send a MARCBOT down first and, if they found someone waiting in ambush, take him out with the Claymore. Of course, each insurgent killed in this fashion has meant $5,000 worth of blown-up robot parts. (Singer 2009a: 36)

(Singer 2009a: 36).

Da sie keinen Schwankungen der Geduld und Aufmerksamkeit unterliegen, können sie 30 Stunden lang mit gleichbleibender Effektivität ein gefährliches Territorium inspizieren, und vor allem lassen sie sich risikolos auf äusserst gefährliche Missionen schicken, da selbst im schlimmsten Falle nur eine Ersatzinvestition von vielleicht $ 150 000 (Singer 2009a: 31) nötig ist, anstatt dass Body bags benutzt, Briefe an verzweifelte Eltern geschrieben und klebenskange Witwenpensionen ausbezahlt werden müssen (Guetlein 2005: 14.)

Heeresroboter erhöhen die defensive Kapazität der Truppe, indem sie im Falle plötzlicher Angriffe können Heeresroboter ohne Zeitverzug und mit maximaler Präzision zurückschiessen, da sie im Unterschied zu konventionellen Soldaten (vgl. Lang 1965: 870) keine Zeit damit verbrauchen, zuerst verletzte Kameraden zu bergen und sich selbst in Sicherheit zu bringen. (Singer 2009: 41).

Ebenso steigern sie die Fähigkeiten zur Offensive , indem sieim Gefecht dem Feind sehr viel näher kommen als konventionelle Soldaten (Lin /Bekey / Abney 2008: 53) , und man sie selbst in Situationen risikolos für „Kamikaze"-Aktionen vorschicken kann, bei denen man im vornherein weiss, dass sie im feindlichen Feuer kaun Ueberlebenschancen besitzen.

(Gleichermassen können Roboter eingesetzt werden, um in solch „selbstloser" Weise Zivilpersonen zu beschützen (Arkin 2007: 11)).

Vor allem die mit der Konstruktion von Robotern befassten Experten – aber auch die Militärangehörigen, Politiker und die allgemeine Oeffentlichkeit) sind der Ansicht, dass der grösste Nutzen von Kriegsrobotern darin bstehe, Soldaten vor Verwundung und Tod zu schützen – und nicht so sehr darin, kosten zu sparen oder die Kriegsführung effektiver zu machen (Moshkina/Arkin 2007: 20).

Zukunftsperspektive: M-M – Kriege ohne menschliche Opfer

Kumulative Selbstmarginalisierung des Menschen in der neuen high tech Umwelt

There is simply no time for a human operator to enter into the firing decision because we just think too slowly to be of any use. The machine is programmed to determine the nature of a threat and can engage it without any human input in fractions of a second, a design feature that is very attractive in a fast-moving modern warfare situation.

"The trend towards the future will be robots reacting to robot attack, especially when operating at technologic speed. . . . 　As the loop gets shorter and shorter, there won’t be any time in it for humans." (army colonel, zitiert nach Singer 2009: 38).

According to Canning, we could resolve practical and legal problems with robotic weapons systems by letting "the machines target other machines" (Canning, 2006, slide 14). Z. B. fällt das Problem weg, Kombattanten von Zivilisten zu unterscheiden und unverantwortliche Kollateralschäden zu erzeugen.

Kriege könnten sich so zu reinen Materialschlachten entwickeln, die dann voraussehbar von der Partei, die mehr Ressourcen (bzw.logistische Kapazitäten zur ständigen raschen Suibstitution zerstörter Maschinen) zur Verfügung hat

„the coming weapons "will be too fast, too small, too numerous, and will create an environment too complex for humans to direct. As Adams concludes, the new technologies "are rapidly taking us to a place where we may not want to go, but probably are unable to avoid." (Singer 2009a: 42).

Vor allem in M-M – Kämpfen müssen sich Menschen in sichere Distanz begeben, da sie nicht mehr in der Lage sind, im Kampf zu fliehen (Singer 2009a: 42).

Kriegerisches Handeln ist aufgrund der mit ihm verbundenen existentiellen Risiken fundamentaler als das Verhalten in dem meisten zivilen Organisationen durch psychologische Einflüsse bestimmt, und Militärorganisationen waren über Jahrtausende zutiefst geprägt vom Problem, die tief verankerten instinktiven Widerstände der Soldaten gegen Gefahren, Verwundung und Tod zu überwinden:

„Armies throughout history have learned to counter this most human of instincts by carefully instilling their troops with a close band-of-brothers camaraderie. Drill sergeants are famously adept at molding recruits into an effective fighting force, not by preaching righteous abstractions at them but by instilling a sense of mission and fostering strong ties of loyalty among fellow troops." (Herman/Fritzson/Hamilton 2008).

Pike (2009), the director of the military information Web site GlobalSecurity.org seems to suggest that humans may be too ethical and that this paradoxically leads to longer more costly wars. He observes in his Washington Post article that only about one percent of human soldiers will actually aim at another human soldier with the intent to kill, most just fire in the general direction on the enemy."

Most humans are loath to kill and try to avoid it at all costs, even those trained for combat. This might lead to more ammunition fired indiscriminately thus increasing collateral damage and leading to longer conflicts. On the other hand:

Mit ihrem Fehlen psychologischer Sensibilität kontrastieren moderne Roboter besonders eindrücklich mit der besonderen Stresssituation modernen Kampfsoldaten, über die die Militärsoziologie seit dem 2. Weltkrieg berichtet, dass die Aktivität und Effektivität kämpfender Soldaten extrem stark von psychologischen Randbedingungen abhängig ist (Egbert 1958), die wiederum sehr erheblich vom unmittelbaren Mikrokontext der mitkämpfenden „Buddies" und Unteroffiziere sowie von aktuellen Situationsbedingungen (und entsprechenden Emotionen der Angst, Solidarität, Rachelust etc.) beeinflusst werden. (Basowitz et. al. 1955). Diese partikularistischen Informalbindungen reduzieren die Kampfkraft kleiner Soldatengruppen insofern, als es kaum möglich ist, personelle Lücken ohne Weiteres mit neuen Teammitgliedern zu füllen (Shils/Janowitz 1948).

Unlike their human predecessors, a robotic soldier would not act out of malice or prejudice. A sense of revenge, which might compel a human to commit a war crime, would not have the same kind of influence on a computerized system. Thus, supporters of technology contend that tragedies occurring in combat, such as accidental casualties, would be reduced. (Borenstein 2008: 2/3).

Vor allem als Folge der automatischen Seriefeuerwaffen hat sich das Ausmass an Stress und Angst, dem ein Soldat im Infanteriekampf ausgesetzt ist, stark erhöht: mit der Folge, dass das Kampfverhalten immer weniger von formellen Regeln u.nd Weisungen und statt dessen immer stärker von der Motivierungskraft des unmittelbaren informellen Sozialfeldes (der Unteroffiziere und „buddies") abhängig wird (George 1971: 294/295). So haben Studien über den Korea- und Vietnamkrieg ergeben, dass die Kampfkraft der Truppe wesentlich von solch informellen Variablen abhängt, die kaum durch Weisungen höherer Offiziere, durch übergreifende patriotische Motivationen oder durch Pflege einer übergreifenden „Organisationskultur" beeinflussbar sind.

Evidenterweise ist die Armeeführung an Kampfagenten interessiert, die ihre formellen Orders ohne die unberedhenbare intervenierende Wirkung solch informeller Einflüsse getreulich ausführen, indem sie

- sich keiner Weise von jenen Gefühlen des Zorns und der Rache (als Reaktion auf gefallene Kameraden) leiten lassen, die seit den Zeiten des Trojanischen Kriegs bis heute das soldatische Gefechtsverhalten bestimmen (Borenstein 2008: 2f.);

- selbst in „auswegloser" Lage nicht mit jenen Gefühlen der Entmutigung und Desillusioniertheit reagieren, die beispielsweise die Weiterführung des Viet nam krieges letztlich verunmöglicht haben (Gabriel/ Savage 1978).

- sich ohne Zeitverzug widerstandslos an neu einprogrammierte „rules of engagement" anpassen können, während es bei konventionellen Soldatentruppen mühsame und langwierige Umsozialisationsprozesse (wenn nicht gar einen Ersatz durch frisch rekrutiearte Kräfte) braucht, um entsprechende Veränderungen zu implementieren

„If needed, ROEs can be rapidly changed and disseminated in a more agile fashion to robots than would be possible to human warriors in the field during an execution of an operation. Also, if required, re-tasking can be frequent and rapid, much more so than would be acceptable when commanding human warriors." (Young/Kott 2009).

Die gegnerische Kriegspartei muss wissen, dass mit Robotern agierende Streitkräfte nicht mehr auf einschüchterende Zermürbungstaktiken oder spektakuläre „shock and awe" Aktionen mit Rükzug reagieren, sondern erst dann vernichtet sind, wenn aus rein technischen Gründen kein Roboter mehr funktioniert.

„….what makes military robots profoundly different from human soldiers is that they are incapable of fear — the one battlefield constant since the dawn of history, implicit in the writings of every military theorist since Sun Tzu. Strange though it may sound, within a decade or so, the world’s most advanced military could largely eliminate fear as an accompaniment to doing battle — for individual combatants as well as for generals and political leaders charged with deciding how and where to commit their forces." (Herman/Fritzson/Hamilton 2008).

Umgekehrt mögen die angegriffenen Gegner umso gründlicher demotiviert werden,

- weil die Aussicht, beim Zurückschiessen bloss technische Geräte anstatt Menschen zu vernichten, keine grosse Kampfmotivation entsteht (Singer 2009a)

- weil schiessende Kämpfer damit nur ihren Standort verraten und sich damit einem sehr hohen Vernichtungsrisiko ausssetzen,da Roboter ohne Zeitverzug und mit maximaler Präzision zurückzuschlagen pflegen.

Indirekt kann dadurch der globale Terrorismus neue Nahrung finden, weil die im militärischen Gefecht derart chancenlos gewordenen Kriegspartien umso intensiver darum bemüht sein werden, den Feind in seinem Hinterland (wo er nach wie vor verwundbar ist) zu treffen . (Herman /Fritzson/Hamilton 2008).

"It is also worth contemplating the effect a no-fear robotic army would likely have upon an enemy. Any human foe faced with the impossibility of confronting and defeating any live soldiers on the field — after all, what glory or satisfaction would there be in killing a robot? — might be all the more tempted to adopt terrorist tactics that strike directly at civilians. In the long run, therefore, a no-fear military has the potential to simply transfer fear from the battlefield to society at large." (Herman/Fritzson/Hamilton 2008)

Schliesslich sind Roboter dank ihrer überlegenen Kapazitäten der Informationsverar-beitung wahrscheinlich prädestiniert, in modernen Krieagsverläufen eine immer prominentere Rolle zu übernehmen. Moderne Soldaten und Offiziere leiden zunehmend unter einer Ueberlastung mit Informationen, die aus verschiedenen Quellen (Satelliten, Aufkklärungsflugzeuge, Gemeimdienst, Rapporten etc.9 stammen und die im Hinblick auf eine optinale Entscheidungsfindujng alle möglichst ohne Zeitverzug in eine Synthese gebracht werden müssen (Arkin 2007: 124). Informatisch hochgerüstete Robeter sind demgegenüber imstande, in kürzester Zeit beliebige Informationsmengen zu prozessieren um für Entscheidungen beliebiger Art bessere kognitive Grundlagen zu schaffen

„Robots can integrate more information from more sources far faster than a human possibly could in real-time before responding with lethal force. This can arise from multiple remote sensors and intelligence (including human) sources, as part of the Army’s network-centric warfare concept and the concurrent development of the Global Information Grid." (Arkin 2007: 124)."

The eventual development and use of a broad range of robotic sensors better equipped for battlefield observations than humans’ currently possess.(Arkin 2007: 6).

Dementsprechend sind sie auch viel besser als konventionelle Soldaten in der Lage, untereinander in sehr kurzer Zeit beliebig komplexe Information auszutauschen: z. B. um sehr rasch kollektiv auf ein e neue Bedrohungslage zu reagieren, ihre Kräfte in dieselbe Richtung zu massieren, oder um eine arbeitsteilige Rollenspezialisierung (z. B. Suche in verschiedene Himmelsrichtungen) zu erzeugen. (Singer 2009a). Die moderne Robotik bietet heute genügend Grundlagen, um beliebig zahlreiche Kampfroboter durch horizontale Koppelung zu „Schwärmen" zu integrieren, die auf der Basis einfachster Verhaltensregeln kaum mehr voraussagbare Formen der Selbstorganisation und emergenten Makroaktivität erzeugen, die es mit ihrer dezentralen Ubiquität jedem asymmetrischen –Feind schwer machen, sich zielgerichtet und effektiv zu verhalten (Singer 2009b: 110; Lin/Bekey/Abney 2008: 79).

Swarms may not be predictable to the enemy, but neither are they exactly controllable or predictable for the side using them, which can lead to unexpected results. Instead of being able to point and click and get the immediate action desired, swarm takes action on its own, which may not always be exactly where and when the human commander wants it.(Singer 2009b: 110).

Verringerte Hemmschwelle für den Kriegseintritt?

Zunehmende Hemmschwelle für Kriegseinsätze, weil tote Soldaten immer weniger akzeptiert werden (z. T. wohl begründet in der verringerten Geburtenrate, der zunehmenden Bereitschaft, in die wenigen Kinder viel zu investieren (z. B. aufwendige Ausbildung), und dank der im Vergleich zu früher grösseren Möglichkeiten, heranwachsende in ie produktiven Beschäftigungsrollen einer wachsenden Volkswirtschaft zu integrieren).

One of the principal ways that a war is shortened is when the public realizes and appreciates the human cost involved. When this occurs, it can place growing pressure on politicians to seek a quicker, and possibly more diplomatic, solution to a conflict. (Borenstein 2008: 12)

Verluste an Soldatenleben können heute – vor allem auch infolge ihrer breiten Thematisierung in den Medien) zu gefährlichen Stimmungsumschwüngen an der "Heimatfront" führen: mit der Folge, dass sich die öffentliche Meinung (und auch die Meinung der Parlamente) gegen die Fortführung des Krieges wendet (Lin/Bekey/Abney 2008: 2).

For the combatants, war means the prospect of death or wounds and a loss of friends and comrades that is scarcely less tragic." Because it is their blood that will be personally invested, citizen-soldiers, as well as their fathers, mothers, uncles, and cousins who vote, combine to dissuade leaders from foreign misadventures and ill-plannedaggression.

(Folge: vor allem in demokratisch verfassten Gesellschaften können Kriegseinsätze kaum mehr fortgführt werden, wenn sie die öffentliche Unterstützung verliert….). Jedenfalls müssen sich die Politiker sehr anstrengen, die Unausweichlichkeit (oder wenigstens den Nutzen) solcher Einsätze überzeugend klarzulegen.

„A captured, wounded, or dead soldier is a political liability. The "CNN factor" alone is enough to deplete the popular support for the mission. CNN’s graphic footage of noncombatants (civilians and contractors) being beheaded by Iraqi insurgents; of American soldiers coming home in body bags; or of U.S. Marines shooting wounded Iraqis in order to neutralize the threat of being bushwhacked; all had a repulsive effect on the worldwide audience and continue to erode political will in support of the war in Iraq." (Guetlein 2005: 14)

Geringe öffentliche Unterstützung vor allem bei offshore-Einsätzen, die aus logistischen Gründen überhaupt nur noch von den USA (bzw. ihren NATO-Partnern, die sich ebenfalls auf die amerikanischen Infrastrukturen abstützen) duchgeführt werden können. (z. B. Europa: Kosovo, Staaten mit grossen Oelreserven wie Irak).

Folge: wachsende Indifferenz des Westens gegenüber regionalen Kriegen, in denen offensichtlich Menschenrechte drastisch verletzt werden (Darfur, Kongo etc.),

Verringerte Fähigkeit und Neigung, die Beachtung der Menschenrechte weltweit flächendeckend zu sichern.

The world watched the horrors of Bosnia, Rwanda, and Congo but did little, chiefly because the public didn’t know or care enough and the perceived costs of doing something truly effective seemed too high. (Singer 2009).

When faced with a dispute or crisis, policymakers have typically regarded the use of force as the "option of last resort." Unmanned systems might now help that option move up the list, with each upward step making war more likely.

Roboter

senken zweifellos diese Hemmschwelle, weil Kriege nun leichter

- ohne Gefahr für menschliches Leben

- aus beliebiger Distanz, von Zuhause aus, im Rahmen eines normalen achtstündigen Arbeitspensums

geführt werden können (Singer 2009a).

"You are going to war for 12 hours, shooting weapons at targets, directing kills on enemy combatants, and then you get in the car, drive home, and within 20 minutes you are sitting at the dinner table talking to your kids about their homework. (Singer 2009a: 34)"

Robotics "will further disconnect the military from society. People are more likely to support the use of force as long as they view it as costless." (Singer 2009a:44).

"Unmanned systems represent the ultimate break between the public and its military.The result is an American public that is less invested in and linked to its foreign policy than ever before in a democracy." (Singer 2009a: 44).

Bei einer breit angelegten Meinungsumfrage äusserten die meisten (69%) der zivilen und militärischen Befragten die Ansicht, dass Roboter die Initiiierung von Kriegen erleichtern würden; nur ca 5% waren gegenteiliger Ansicht. (Moshikina/Arkina 2007: 22).

That returns us to Korb’s scenario of "more Kosovos, less Iraqs."If one can argue that such new technologies will offer less harm to us and them, then it is more likely that we’ll reach for them early, rather than spending weeks and

"Indeed, imagine all the genocides and crimes against humanity that could be ended if only the human barriers to war were lowered. Getting tired of some dictator massacring his people? Send in your superior technology and watch on YouTube as his troops are takendown (Singer 2009a:48)."months slogging at diplomacy." (Singer 2009a: 47).

　

　

　

Leistungsgrenzen und Disfunktionen

Seit den 1950er Jahren: Masslose Hoffnungen in menschenähnliche Roboter:

Robert Finkelstein, a veteran engineer who now heads Robotic Technologies Inc. and who helped conduct the survey, thinks these projections are highly optimistic and that it won’t be until "2035 [that] we will have robots as fully capable as human soldiers on the battlefield. (Singer 2009: 43)

Derartige Prognosen ignorieren die grundsätzlichen Probleme, Roboter mit einer dem Menschen ähnlichen Fülle von sensomotorischen Fähigkeiten und einme vergleichbaren Niveauan Urteilsfähigkeit zu konstruieren.

Vor allem unterschätzen sie dem Grad, in dem Roboter im Vergleich zur unabgrenzbaren Polyvalernz menschlicher Personen immer hoch spezialisierte Akteure sein werden, die aufgrund ihrer Hardwarekonstruktion dauerhaft und aufgrund ihrer softwareprogrammierrung mindestens zu jedem bestimmten Zeitpnkt auf eine enge Palette von Wadhrnehmungs- Lern- und Aktionsweisen festgelegt sind

Die grossenteile errnüchternden Erfahrungen mit „artificial intelligence haben gezeigt, dass informatische Agenten in klar abgrenzbaren und gut formalisierbaren Aufgabenbereeichen ihren Entfaltungsschwerpunkt haben, da sie – sel stg wenn Lernfähigkeit durchaus vorgesehen ist - auf ein enges Spektrum von Wahrnehmungs- Lern- und Aktionsweisen festgelegt werden müssen. So ist es wahrscheinlich, dass nie mehr ein homo sapiens gegen den sophistiziertesten Schachcomputer gewinnt, während z. B. kaum je ein frühstückzubereitender Computer hergestellt werden wird, weil dieser mit einer kaum überblickbaren Fülle von informell-lebensweltlichem Wissen ausgestattet werden müsste, über die ein für wenige EUROS tätiges Küchenmädchen ohne weiteres verfügt (vgl. z. B. Puppe/Stoyan/Studer 2003; Mandl 2008) .

So sehr die die technischen Geräte dem Menschen motorisch weit überlegen sind, so wenig können sie in sensorischer Hinsicht mit ihm konkurrieren: mit seiner Fähigkeit nicht nur simultan eine unbegrenzte Vielfalt akustischer, visueller und olfaktorischer Wahenhemungen zu regstriaren, sondern auch: diese Wahrnehmungen innhfat zu interpretieren: d. h. ihnen eine „Bedeutung" zuzuschreiben, indem er sie mit mit reichen Beständen an Intuitionen, Emotionen, Erwartungen, Erfahrungen, Erinnerungen etc. in Beziehung setzt, über die selbst der leistungsfähigsten Computer in keiner Weise verfügt.

Typische Anwendungsbereiche finden sich in der industriellen Fertigung, wo Roboter, die – als logische Weiterentwicklung automatisierter Spezialmaschinen - hoch standardisierte, meist repetitive Aktionssequenzen vollziehen, die auhgrund umfassender Kenntnis der Umweltbedingungen und Mittel-Zweck-Relationen vollständig ex ante festgelegt werden können (Nof 1999).

Im Militär kann höchstens in Friedenszeiten mit einer ähnlich totalen Dominanz formalisierter Normen und routinisierter Verhaltensweisen gerechnet werden, während im Kampf unberechenbare Situationsbedingungen, Ereignisabläufe und Handlungsanforderungen hervortreten, die zu „spontanen" Reaktionen auf der Basis persönlicher Intuitionund erfahrung zwingen und zur Herausbildung einer meist zu einer von ser Formalstruktur stark abweichenden informellen Gruppenkultur Anlass geben (Ziegler 1968: 30).

In diametraler Gegenläufigkeit zu den Bürokratisierungstendenzen in vielen dem Kampf entrückten Militärabteilungen hat im Gefechtsbereich aufgrund neuer waffentechnischer Entwicklungen eher eine Regression zu sehr kleinformatigen, auf informeller Basis beruhenden Sozialverhältnissen stattgefunden (George 1971: 295). . Während noch in den Napoleonischen Kriegen zentralistisch gesteuerte kollektiv einheitliche Verhaltensweisen (z. B. Abfeuerung von Gewehrsalves auf Kommando) üblich waren, sind heute stark individualisierte Gefechtsformen üblich geworden, die – wie z. B. in urbanen Kampfmilieus – durch rasch und unvorhersehbar wechselnden Problemsituationen gekennzeichnet sind und deshalb vom Einzelsoldaten – bzw. kleinen Einsatzteams - ständig neue Wahrnehmungen, Lagebeurteilungen und Entscheidungen verlangen.

Die schiere Gefährlichkeit, unübersichtliche Komplexität und unvorhersehbare Wirkungen moderner, durch hochwirksame Waffen geführter Gefechtsverläufe hat zur Folge, dass Entscheidungen darüber, wann und wo und zu welchem Zweck welche Waffen benutzt werden sollen, sehr weit unten in der Hierarchie getroffen werden: mit der Folge, dass taktische Operationen heute sehr viel weniger als in traditionellen Armeen einer zentralistischen Steuerung durch den Generalstab und Truppenkommandeure zugänglich sind.

As　the　context　gets　more　complex,　it　becomes　impossible　to　anticipate　all　the　situations　that　soldiers　will　encounter,　thus　leaving　the　choice　of　behavior　in　many　situations　up　to　the　best　judgment　of　the　soldier. (Lin/Bekey/Abney 2008: 31).

Bereits bei Allerweltaufgaben wie Küchendienste, Lastwagenfahren oder Krankenversorgung stossen Roboter aufgrund ihres Mangels an „tacit knowledge" auf enge Grenzen.

„One of benefits of having humans serving as soldiers is that they can handle situations by relying on instinct and tacit knowledge, things which are difficult to articulate and encode into formal rules. For example, countless, sophisticated nuances are associated with communicating information. Consequently, even if an AWS has the capacity for language, that feature could be rendered rather moot if it is unable to process other, less tangible forms of communication. Humans are capable of expressing themselves without the use of language such as by using hand signals and non-verbal cues. Perceiving this kind of information can help to distinguish aggressive movements from signs that a person may be willing to surrender." (Borenstein 2008: 5).

und noch viel weniger kann man sich auf ihre Entscheidungsfähigkeit in Spezialeinsätzen einsätzen, wo singuläre Aufgaben mit idiosynkratichen Merkmalskonfigurationen (z. B. der Geiselbefreiung) zu bewältigen sind (Singer 2009a),

Asymmetric war fighting involves particularly difficult problems of separating combattants from civilians, and of identifying military targets within complex urban areas

The modern nature of war is such that it often takes place in the middle of civilian areas where combatants are not easily distinguished from non-combatants. The irony is that precise and sophisticated weapons may put innocents in more, rather than less, danger. (Borenstein 2008:

Since enemies are rarely labeled clearly, it will be immensely challenging, if even possible, to develop algorithms that are sophisticated enough to allow an AWS to discern friend from foe. (Borenstein 2008: 6).

According to Arkin, the effort to program robots so that they are capable of distinguishing friend from foe is progressing for example "by using gait recognition and other patterns of activity to identify suspicious persons" (Arkin, 2007, p. 11).

Fear and the instinct for self-preservation are natural reactions but could easily be misinterpreted by a robotic system as being hostile. (Borenstein 2008: 5)

Similarly, autonomic weapons „would not be the preferred weapon against dual-use targets where the target has both a military and a civilian use. In order to engage these targets, the warfighter has to make the complicated determination if the military value of the target far outweighs the potential for collateral damage." (Guetlein 2005: 16).

Vorteile für asymmetrische Feinde

Der Feind macht sich unangreifbarer, indem er Grenzen zwischen miltiärischen und zivilen Bereichen möglichst verwischt: z. B. indem Kämpfer ohne Uniform in der Zivilbevölkerung untertauchen, indem sie Zivilisten als Schutzschilder benutzen oder sich in nicht angreifbaren Räumen (Friedhöfen, Moscheen, Schulen Spitälern Rotkreuzfahrzeuge u.a.) versammeln.

Sie möchten den Gegner moralisch delegitimieren, indem sie ihn nötigen, ethisch möglichst problematische Kollateralschäden (z. B. in Form getöteter Frauen und Kinder) zu produzieren

Da AWS immer nach einem stabil festgelegten, klar definierten Regelsystem agieren müssen und auf klar ausdifferenzierte militärische Ziele angewiesen sind, ist es für den asymmetrischen Feind ein leichtes, sie durch solche Tricks zu übertölpeln: vor allem wenn es ihnen durch Spionage gelingt, dieser expliziten Regelstrukturen, die in die Software des AWS eingebaut sind, habhaft zu werden.

Gerade im asymmetrischen Krieg wird es deshalb immer konventionelle Soldaten und Offiziere brauchen, die derartige Tricks und Listen, die in ihrer Form ständig wechseln, intuitiv durchschauen und bereit sind, im Interesse der Kriegsziele auch unter Missachtung bisher geltender Regeln zu agieren (z. B . indem man auch ein in einem heiligen Gotteshaus akkumuliertes Waffenlager zerstört). (Borenstein 2008: 7).

Even amidst pure military fighting, the Geneva conventions demand that aggressors finish fighting when the targeted combattants emit signs of surrender: signs usually based on analogue nonverbal signals that may be hard to „understand" for roboters functioning exclusively on the basis of digital information

„To illustrate, consider the capabilities of (a) recognizing surrender gestures and (b) telling bystander or friend from foe, which are often discussed in connection with the prospects of robotic warfare (Sharkey 2008). In order to make a good showing in any behavioural test designed to control whether one is capable of providing satisfactory (albeit not infallible) human-level solutions to problems (a) and (b), a robotic system must possess a wide variety of perceptual and deliberative capabilities that are well beyond state-of-art artificial intelligence and cognitive robotics. Human-level solutions to problems (a) and (b) are issued on the basis of context-dependent disambiguation of surrender gestures, even when these are rendered in unconventional ways, understanding of emotional expressions, real-time reasoning about deceptive intentions and actions. (Tamburrini 2009: 16).

Am ehesten sind Roboter in der Mitte des dichten Gefechts einsetzbar, wo mit ausschliesslich militärischen Aktivitäten gerechnet werden kann, . bzw. in vollständig militarisierten Zonen (z. B. in der verbotenen Grenzzone zwischen Nord- und südkorea am 17. Breitengrad) tauglich, wo alle registrierten Ereignisse als Feindbewegungen, auf die ein Beschuss zu erfolgen hat, interpretiert werden können.

„Signs are clearly posted and it is common knowledge that unauthorized entry into this area is forbidden. Since any and all noncombatants who enter into this zone (there are two very small villages in the region) must have been cleared through a checkpoint, it is assumed that any unauthorized personnel who cross the MDL (Military demaracation line) are hostile, unless there is an overriding reason to believe otherwise. Further, we also assume in this scenario, that as part of the authorization process, personnel are issued an FFI tag (friend-foe identification) that the robot can interrogate to discriminate the target. It can potentially be the case that a defector may be attempting to cross the DMZ without appropriate credentials. This has occurred in the past, although the likelihood of a repetition has decreased due to new North Korean tactics as a result of a previous successful attempt. Thus, for this scenario, the probability of any human encountered who does not pass friend-foe interrogation being a hostile is high in this well-posted area" (Arkon 2007: 93).

Generell ist es unproblematischer, ihnen die Antwort auf vorangegangene Beschüsse anstatt die Entscheidung zur Erstbeschiessung zuzugestehen, weil letztere meistg komplexe Lagebeurteilungen erfordert, während es gemäss den üblichen „Rules of engagement" in fast allen Situationen erlaubt oder gar zwingend geboten ist, auf einen feindlichen Beschuss durch den Feind durch Gegenbeschuss zu reagieren (Singer 2009: 41):

Selbst im klassischen Gefecht werden Roboter die von den Genfer Konventionen her zwingende Aufgabe, kämpfende von kapitulationswilligen Soldaten zu unterscheiden, kaum je bewälltigen können (Sharkey 2008; Tamburrini 2009: 16), und im modernen asymmetrischen Krieg ist zudem die erforderliche Insulierung des militärischen vom zivilen Bereich kaum mehr gegeben, weil Kämpfe immer häufiger inmitten ziviler urbaner Kontexte stattfinden, in denen es auch immer schwerer fällt, militärische von zivilen Zielen und Kombattanten von Zivilpersonen zu unterscheiden (Borenstein 2008:6; Arkin 2007:11; Guetlein 2005: 16).

Und völlig überfordert sind Roboter natürlich in allen breitbandigen, polyvalenten Einsätzen (z. B. des Peace enforcement), wo sich militärische Kampfbereitschaft mit Fähigkeiten zum Verhandeln und zur Konfliktschlichtung, mit dem Ringen um die „hearts and minds" der autochthonen Bevölkerung, mit der Beziehungspflege zu zivilen Organisationen oder mit bedürfnisorientierten Vorgehensweisen bei der Allokation medizinischer Hilfe oder bei der Verteilung von Kleidern und Nahrungsmitteln verbindet (vgl. z. B. Berdal 1993).

Ganz allgemein erhöhen Roboter die Verletzlichkeit des Angreifers insfern, als die Entscheidungs- und Verhaltensregeln in vollständige Explizitheit überführt werden müssen: d. h. in einen Aggregatzustand, in dem sie sehr leicht kopiert, transferiert und gelesen werden können. Wenn es dem Feind gelingt, durch „hacking" oder auf andere Weise in den Besitz dieser Information zu gelangen, hat er vielerlei Möglichkeiten, die Roboter durch aktive Störung der ihrer Steuerungssyteme lahmzulegen oder ihre Wirkungen durch geeignete Anpassung seines Verhaltens) zu neutralisieren. (Borenstein 2008: 10).

Demgegenüber bewahren konventionelle menschliche Soldaten dank der Informalität und „tacitness" ihrer kognitiven und normativen Orientierugen die Eigenschaft, für den Feind grundsätzlich unberechenbar zu bleiben, weil immer wieder neue, nicht voraussehbare Handlungsabläufe spezifiziert und Entscheidungen getroffen werden.

Schwer hinzunehmen ist schliesslich auch die Diffusion derr Verantwortlichkeit, die mit dem Einsatz von Kriegsrobotearn (in einer gewissen Parallele zum Einsatz von Kampfhunden oder Kindersoldaten) entsteht (Marino/Tamburrini 2006; Sparrow 2007):

Bereits bei konvaentionellen militärischen Aktivitäten besteht zwischen Politikern, Militäroffizieren und Soldaten eine unübersichtliche Gemengelage der Verantwortung, die dem seit den Nürnberger Prozessen wachsenden Bedürfnisse, Kriegsverbrechen zwecks Anwendung von Strafsanktionen eindeutig individuell zuzurechnen, grundsätzlich widespricht.

Im Falle autonomer Roboter wandelt sich das Bild vor allem in dem Sinne, dass sich der Schwerpunkt der Verantwortung einerseits auf die mit dessen Produktion und Programmierung befassten technischen Unternehmen und Ingenieuren und andererseits auf die für deren spzifischen Einsatz zuständigen zentralen Instanzen der Militärführung und Politik, andererseits auf die verschiebt (Moshkina/Arkin 2007: 17). Daneben besteht allerdings auch eine Tendenz, einen Teil der Haftung dem Roboter selbst zuzurechnen – und damit die mitinvolvierten menschlichen Personen zumindest zu einem kleineren Teil zu exkulpieren(Lin/Bekey/Abney 2008: 73)

In all diesen Fällen ist es nötig, einen von der strafrechtlichen „Schuld" scharf getrennten, kausalen Verantwortlichkeitsbegriff („mindless morality" im Sinne von Floridi und Sanders 2004) zu benutzen, wie er z. B. im zivilen Haftpflichtrecht Verwendung findet.

Allerdings verbieten es die genannten Komplexitäten und Unberechenbarkeiten, militärische Roboter ähnlich wie die meisten anderen industriellen Produkte dem kausalen Produkthaftpflicht-zu unterstellen. in dem Sinne, dass der Hersteller für allfällige schädliche Wirkungen seines Erzeugnisses belangt werden kann. Am allerwenigsten wird ein Hersteller die Verantwortung für einen Roboter übernehmen können, der darauf angelegt ist, durch lernen neue Erfahrungen und Verhaltensroutinen zu erlernen, die zum Zeitpunkt seiner Herstellung überhaupt nicht abasehbar sind. Vielmehr wird es immer erforderlich sein, die Verantwortlichkeit, die niemandem in toto zugerechnet werden kann, auf eine Vielzahl mitinvolvierter Akteure aufzuteilen (Lin, Bekey, Abney 2008: 57): wobei dann endlose Rechtsstreitigkeiten vorprogrammiert sind, weil über den Aufteilungsschlüssel natürlich keine konsensualen Vorstellungen bestehen.

Man muss sich dann nicht wundern, wenn Roboter ähnlich wie heute die Sprengminen eine breite internationale Aechtung erfahren (Sparrow 2007) , und wenn die Verantwortung für als verbrecherisch betrachtete Kriegshandlungen nur noch gesamtheitlich den umfassendsten Akteuren (z. B den Vereinigten Staaten" oder der NATO) zugeschrieben werden. Auch aus diesem Grund wird der asymmetrische Feind dazu neigen, den Konflikt aus dem engeren kriegsgeschen hinaus ins Herz der angreifenden Nationen zu tragen: mit Terroraktionen, die das Ziel haben, nicht mehr ausdifferenzierte Kampfeinheiten, sondern das gesamte in den Krieg involvierte gesellschaftlich.-politisch-militärische System zu treffen.

Roboters as agents of ethical behavior and social controls

Abgesehen vielleicht vom Hitler-Deutschland der 1940er Jahre herrschte kaum jemals uneingeschränkt eine Doktrin des „totalen Krieges", in der dem Kriegshandeln ein Entfaltungsspielraum jenseits aller sozialen Normen ujnd Beschränkungen zugebilligt wurde. So herrschen in feudalen Gesellschaften strikte Regeln der Fehde und des rittterlichen Turnierkampfes vor, die durch Konzepte der „Ehre" geleitet und innerhalb der Elite kriegführender Adliger verfestigt und tradiert worden sind.

In der Neuzeit hat die wachsende Wirksamkeit der Waffentechnik zu einem ständigen Mehrbedarf an formellen Normen geführt, um die destruktiven Auswirkungen der Kriergsführung 8besonders auch auf die unbeteiligte Zivilbevölkerung) in Grenzen zu halten. Indikatoren dafür sind die Entwicklungen des Kriegsrechts (z. B, Genfer Konventionen), sowie die immer detaillierteren „Rules of Engagement."

All diese Entwicklungen verschärfen den grundlegenden Widerspruch, in dem alles Kriegshandeln stattfinden muss: einerseits ist die Anwendung maximaler Gewalt gegen Sachen und Menschen erlaubt, ja im Interesse der Kriegsziele dringend gefordert, andererseits aber muss sie im Lichte humanitärer Forderungen auf vielseitige Weise restringiert werden: z. B. in dem Sinne, dass verwundete oder zur Aufgabe bereite Soldaten geschont und Gefangene gute betreut werden müssen (Lin/Bekey/Abney 2008: 47ff.)

Immer stärker steigt vor allem der Bedarf nach differenzierten Informationen und kognitiven Beurteilungen, um abzuschätzen, welches Kriegshandeln den strikten Bedingungen der „Verhältnismässigkeit" und der „Minimisierung von Kollateralschäden" genügt.

Dementsprechen erhalten ethisch-moralische Unterweisungen in der Ausbildung der moderenen Soldaten wachsendes Gewicht, und Verstösse gegen diese Regeln werden von einer zunehmend sensibleren Oeffentlichkeit immer mehr als „Kriegsverbrechen", die strafrechtlich zu ahnden sind, registriert. Immer stärker werden diese Regelwerke zur identitätsstiftenden Basis einer militärischen Profession.

The proliferation of formal rules does not change the basic reality that soldiers remain deeply affected by informal norms and extraordinary sotuations conditions that facilitate all kinds of deviant behavior,

Bereits seit den „American Soldier" Studien im zweiten Weltkrieg ist bekannt, dasss deviante informelle Normen und Praktiken, die die Autorität der formalen Befehlshaber schwächen und die Fortführung des Krieges erschwerden, mit wachsender Kampferfahrung zunehmen können (Stouffer et. al. 1949: 141

„Combat experience, particularly losing a team member, was related to an increase in ethical violations." (Arkin 2007: 7)

According to an Army report that examined the mental health of military personnel serving in Iraq, "Only 47 percent of the soldiers and 38 percent of Marines agreed that non-combatants should be treated with dignity and respect" (Surgeon general’s office 2006: 35)

When it came to following the rules of engagement, 9% of marines and 8% of soldiers reported their unit had modified the rules without authorization and 7% of marines and 5% of soldiers simply ignored the rules to accomplish their mission (Surgeon general’s office 2006: 35)

Less than half of the soldiers (and 40% of the marines) agreed they would report their comrades for violations including: injuring or killing innocent noncombatants, stealing from non-combatants, mistreatment of non-combatants, not following general orders, violating the rules of engagement, and unnecessary damage to private property. (Surgeon General’s office, 2006, p. 37)

Kein Wunder: Arkin (2007), suggests that human soldiers set the bar for ethical conduct in warfare so low that just about anything is an improvement.

„operationelle Moralität":

„For　robots　that　operate　within　a　very　limited　context,　the　designers　and　engineers　who　

build　the　systems　may　well　be　able　to　discern　all　the　different　options　the　robot　will　encounter　and　

program　the　appropriate　responses.　　The　actions　of　such　a　robot　are　completely　in　the　hands　of　the　

designers　 of　 the　 systems　 and　 those　 who　 choose　 to　 deploy　 them;　 these　 robots　 are　 operationally　

moral.　„ (Lin/Bekey/Abney 2008: 26)

Roboter sind Sklaven in der Hand von Menschen: reine Instrumente, die helfen, die moralischen Entscheidungen konventioneller Soldaten und Offiziere besser zu reralisieren, ohne eigenständige Abwägungen vorzunehmen.

In dieser Perspektive sollen Roboter derart programmiert werden, dass ihr Verhalten jederzeit vollständig den geltenden Kriegsgesetzen und „Rules of Engagements" entspricht. Damit können diese formellen Regeln einen bisher unerreichbaren Grad der institutionalisierung erreichen, weil Roboter viel besser als meanschliche Soldaten in der Lage sind, derartige Regeln zu jedem Zeitpunkt und in jeder denkbaren situation präzis zu verfolgen (Lin/bekey/Abney 2008: 25ff.).

Konsistentere Implementierung von über- und untergeordnetem Recht

Roboter können auch dazu beitragen, dass die hierarchischen Ueber- und Unterordnungs-verhältnisse zwischen verschiedenen Rechtsquellen und Normstrukturen besser beachtet werden.

Zum Beispiel könnten Roboter so programmiert werden, dass sie immer den kriegsrechtlichen

Regeln den Vorrang geben und so manchmal auch die „Rules of engagement" ignorieren, faklls diese ein mit den „Laws of War" unvereinbares Verhalten fordern (Lin/Bekey/Abney 2008: 53).

„funktionelle Moralität":

Sophisticated　robots　will　require　a　kind　of　functional　morality,　such　that　the　machines　 themselves　have　the　capacity　for　assessing　and　responding　to　moral　considerations.　

„….three　 factors　 suggest　 that　 operational　 morality　 is　 not　 sufficient　 for　 many　 robotic　

applications:　 (1)　 the　 increasing　 autonomy　 of　 robotic　 systems;　 (2)　 the　 prospect　 that　 systems　 will　

encounter　 influences　 that　 their　 designers　 could　 not　 anticipate　 because　 of　 the　 complexity　 of　 the　

environments　 in　 which　 they　 are　 deployed,　 or　 because　 the　 systems　 are　 used　 in　 contexts　 for　 which　

they　were　not　specifically　designed;　and　(3)　the　complexity　of　technology　and　the　inability　of　systems　

engineers　to　predict　how　the　robots　will　behave　under　a　new　set　of　inputs. (Lin/Bekey/Abney 2008: 26)　

‘‘The greater the freedom of a machine, the more it will need moral standards’’ (Picard 1997).

Konsequenz:

Wie bei Menschen öffnet sich auch bei Robotern die Kluft zwischen einer ethischen Theorie, wo Wertpräferenzen, moralische Prinzipien und Handlungsmaximen zur Diskussion stehen, und der Ebene konkreter praktischer Entscheidungen, die auf eine stringente 8wenn auch selten eindeutig determinierte) Weise auf diese theoretichen prämissen bezogen werden.

　

　

　

　

　

　

Top down:

Philosophers　 confronted　 with　 this　 problem　 are　 likely　 to　 suggest　 a　 top‐down　 approach　 of　 en-coding　 a　 particular ethcal theorie into the Software .　 (Lin/Bekey/Abney 2008: 27).

A top-down approach to the design of AMAs is any approach that takes the antecedently specified ethical theory and analyzes ist computational requirements to guide the design of algorithms and subsystems capable of implementing that theory . (Wallach/Colin & Smit 2007).

Top-down ethical systems come from a variety of sources including religion, philosophy, and literature. Examples include the Golden rule, the Ten Commandments, consequentialist or utilitarian ethics, Kant’s moral imperative and other duty based theories, legal codes, Aristotle’s virtues. V or allem aber: rechtlich kodifizierte Normen…..)

Both consequentialist (e.g., utilitarian) and deontological (e.g., Kantian) approaches provide general principles, whose relevance to the design of ethical robots was first noted by Gips (1995).

Konsequentialistische (bzw. utilitaristische) Top down Systeme: ungeeignte., da sie zu viel empirisches Wissen benötigen

Setzen immenses Zusammenhangswissen voraus, um die objektiven (direkten und indirekten) Folgen einer Kriegshandlung abzuschätzen (Lin/Bekexy / Abney 2008: 34). Dies ist deshalb unrealistisch, weil

- die Nützlichkeit oder Schädlichkeit jeder Kriegshandlung ganz unzterchiedlich bewerrtet werden muss, je nachdem, auf welche taktischen, strategischen oder politischen Bezugsrahmen man sie bezieht.

- neben materiellen immer auch psychologische Folgen in Betracht gezogen werden müssen, und

- weil das Kriegsgeschehen als soziales Handeln den Gesetzen der „doppelten Kontingenz" untersteht: in dem Sinne, dass die Gesamtwirkung immer auch von der Reaktion des Gegners abhängt, die prinzipiell nicht vorausgehen werden kann.

1) Deontologische Theorien: besser geeignet, da ethische Entscheidungen deduktiv auf der Basis vorgegebener Prinzipien hergeleitet werden

Sie sind völlig auf die Beachtung fixer Regeln und Normen ausgerichtet, ohne die daraus entstehenden Konsequenzen zu bedenken.

Deontological　(duty‐based)　ethics　presents　ethics　as　a　system　of　inflexible　rules;　obeying　them　

makes　one　moral,　breaking　them　makes　one　immoral.　　Ethical　constraints　are　seen　as　a　list　of　either　 forbidden　 or　 permissible　 forms　 of　 behavior.　　Kant’s　 Categorical　 Imperative　 (CI)　 is　 typical　 of　 a　 deontological　approach

Asimov’s Laws:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm. 2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. 3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws." (Asimov 1942)

Wie sehr „gutes Normhandeln zu schlechten Konsequenzen führen kann, wird vor allem in arbeitsteilig organisierten Systemen deutlich, wo die böse Konsequenz (z. B. die Explosion einer Sprengbombe) aus einer Serie an sich harmloser Einzelhandlungen resultiert (Lin/bekey/Abney 2008: 30).

Ueberdies kollidiert strikte Regelorientierung mit Maximen der Subordination

Die rigide Regelorientierung eines Roboters bedeutet, dass er an ihn ergehende Befehle grundsätzlich nicht ausführst, wenn sie seinen „Handlungsmaximen" widerprechen. Beispielsweise wird er ein Haus, in dem sich Aufständische verschanzt haben, nicht angreifen, wenn er (im Unterdschied zum befehlgebenden Soldaten) „sieht", dass sich darin zahlreiche Kinder befinden… (Lin/Bekeyx/Abney 2008: 74).

So verschärftft sich durch Robtoer auch der Institutionalisierungsgrad von Insubordination.

Beschränkt auf Kohlbergs Niveau 4 (=absolute kompromisslose Regelorientieurng)

Any student of moral theory knows that there is a distinct difference between following rules or laws, and being moral. For instance, it may have been legal or socially acceptable to own slaves at various points in human history, but it was never moral to do so. Robots may be adept at following directions and monitoring the various constraints placed by the law of war or other rules of engagement, but if the rules themselves are immoral, then the robot that slavishly follows them is also immoral."

(=keine Fähigkeiten, eigenes moralische Entscheidungen im weiteren Horizont universeller ethicher Prinzipien zu sehen, die sich nicht nur den Aktivitäten in bello, sondern auf die gesamte menschliche Gesellschaftsordnung in Gegenwart und Zukuft beziehen,.

　

In jedem Fall:

Computers may only display a „stoic" model of morality:

The Stoics believed that moral reasoning should be dispassionate and free of emotional prejudice, which has been presumed to mean that emotions should be banned entirely from moral reflection.

„….robots　may　act　as　objective,　unblinking　observers　on　the　battlefield,　reporting　any　unethical　behavior　back　to　command;　their　mere　presence　as　such　would　discourage　all‐too‐human　atrocities　in　the　first　 place." (Lin/ Bekey/Abney 2008: 1).

Damit wird ein ethischer Intellektualismus gefördert,

„which is "slow, deliberate, thoughtful, justifiable, requires considerable attention, appears late in development, justificable, and open to carefully defended and principled counterclaims",

und der dementsprechend allen philosophischen Konzepten intuitiv verankearter ethischen Prinzipien widerspricht, „

„Which are "fast, automatic, involuntary, require little attention, appear early in development, are delivered in the absence of principled reasons, and often appear immune to counter-reasoning". (Hauser 2006: 31)

Fehlen von jeglicher „emotionaler Intelligenz"

In dem Masse, wie die Verankerung der moralischen Urteile im phänomenalen Bewusstsein, in psychischen Emotionen oder gar in der biologischen Körperlichkeit des Menschen betont wird („Organic view of ethical status" im Sinne von Torrance 2008), werden computergestützte Roboter ungeachtet ihrer Sophistikation als nicht moralfähig betrachtet (Torrance 2008: 503).

„Over the past few decades it has become apparent that moral judgment in humans is much more than a capacity for abstract moral reasoning. Emotional intelligence (Damasio 1995; Goleman 1995), sociability, the ability to learn from experience and social interactions, consciousness, , and the ability to ‘‘read the minds’’ of others all contribute to moral intelligence." (Wallach, Colin & Smit 2008: 566).

In contrast to pure „intellectual rationaity, „empathic rationality" presupposes that the moral actor is itself a „moral patient": ein Rezipient moralischer Handlungen, der über Bewusstsein und Leidensfähigkeit verfügt. (Torrance 2008: 510ff.).

„….moral agency would require the ability, not merely to make rationally based judgments and decisions in the purely intellectual way that one could expect information-processing mechanisms to do, but to engage in the kind of engaged empathic rational reflection on the experiential states of others in a way that seems to be at least partly constitutive of taking a moral point of view." (Torrance 2008: 511)

„For　example,　tasks　that　socially‐viable　robots　 will　perform　can　require　emotional　intelligence,　knowledge　about　social　customs,　and　the　non‐verbal　

cues　 used　 to　 communicate　 essential　 information.　　In　 addition,　 the　 capacity　 to　 appreciate　 and　

respond　 to　 moral　 challenges　 may　 also　 depend　 upon　 the　 robot　 having　 semantic　 understanding,　

consciousness,　a　theory　of　mind　(the　ability　to　deduce　the　intentions,　desires,　and　goals　of　others),　

and　perhaps　even　the　capacity　to　feel　pain　or　empathy.　 (lin/Bekey/Abney 2008: 37).

　

‘‘Robots don’t get angry or seek revenge but they don’t have sympathy or empathy either…. Strict rules require an absolutist view of ethics, rather than a human understanding of different circumstances and their consequences.’’ (Noel Sharkey zitiert in Simonite 2009).

Zwang zur vollständigen Explikation der Regeln

Im Gegensatz zum „tacit knowledge" konventioneller Soldaten agieren AWS allein auf der Grundlage in sie eingebauter Verhaltensregeln, die vollkommen explizit gemacht werden müssen, damit sie in die Software integriert werden können.

Dank dieser Gebundenheit an vollständig explizierbare Regeln haben Roboter –ähnlich wie juristodche Personen) eine natürliche Affinität zu rechtlich kodifizierten Normen, weil diese – im Gegensatz zu informellen Konventionen, Höflichkeitsregeln usw – dank ihrer Verschriftlichung und wissenschaftichen Durchdringung am ehesten die bedingungen vollständiger Explizierbarkeit und logischer Konsistenz erfüllen, die für eine Algorithmisierung im Medium der Computersoftware) die Voraussetzung sind.

Wichtige Voraussetzung für AWA-Ethik ist die vorangehende Formalisierung und Kodifizierung der „Rules of engagement" wie auch der geltenden Rechtsnormen (z.B. aufgrund der Genfer Konventionen). (vgl. den ambitiösen Formalisierungsversuch von Arkin 2007)

Man wird genötigt., die bisher diffus verfolgten und in vieler Hinsicht einander widersprechenden Kriegsgesetze, „Rules of Engagement" und Verhaltenscodes vollständig zu explizieren und auch für den Fall, wo verschiedene Prinzipien in Konflikt geraten, ex ante strikte Prioritätsregeln zu definieren.

„Implementing moral faculties in AI will require that scientists and philosophers study and break down moral decision making in humans into computationally manageable modules or components. It is also assumed that if an autonomous agent refuses to conduct an unethical action, it will be able to explain to some degree its underlying logic for such a refusal." (Arkin 2007: 4).

Beispiele:

- Wieviele zivile Opfer dürfen als „Kollateralschaden" in Kauf genommen werden, wenn mit einem Luftschlag 40 Kombattanten ausgeaschaltet werden können.

-Wieviele zivile Opfer darf man in Kauf nehmen, wenn nur 20 Kombattanten vernichtet werden, unter denen sich aber ein ranghoher Kommandeur (bzw. ein schon lange gesuchter Spezialist für terrorbombenanschläge) befindet?

-Wie gering muss die Wahrscheinlichkeit sein, dass das Ziel verfehlt wird und anstelle von Kämpfern Zivilisten getroffen werden, damit die Entscheidung zum Beschuss dennoch ethisch gerechtfertigt ist?

- Muss ein Gegner auch dann beschossen werden, wenn es sich mit 3% Wahrscheinlichkeit nicht um einen bewaffneten Kämpfer, sond<ern um einen Buben mit einer Spielzeugpistole handelt?

- Wie teuer müssen die Herstellungskosten eines Roboters sein, damit es legitim ist, ihm gewisse Neigungen zur Selbtverteidigung einzupflanzen: selbst wenn dies baedeutsame Verluste gegenerischer Soldaten mit sich bringt?

- Sowohl menschliche Soldaten wie Roboter befinden sich im Kampf

Wie setzt man die knappen Mittel ein, und welche Kosten und Risiken nimmt man in Kauf, um die einen oder anderen vor der Gefangennahme durch den Feind zu schützen oder aus solcher Gefangenschaft zu befreien?

- Gilt das Prinzip, dass man selbst 100 Roboter lieber als einen einzigen Soldaten „sterben" lässst – selbst dann, wenn Roboter Träger immens wichtiger Informationen sind, mit deren Hilfe der Feind Schaden zufügen kann?

"For instance, the ROE to minimize collateral damage is vague: is the rule that we should not attack a position if civilian deaths are expected to be greater than—or even half of— combatant deaths? Are we permitted to kill one (high-ranking) combatant, even if it involves the death of five civilians—or $10M in unnecessary damage? A robot may need specific numbers to know exactly where this line is drawn, in order to comply with the ROE. Unfortunately, this is not an area that has been precisely quantified nor easily lends itself for such a determination." (Lin/Bekey/Abney 2008: 76)

Gefahr von Inkonsistenzen selbst in einfach strukturierten Normsystemen

Asimov:

„The original version of Asimov’s Three Laws of Robotics are as follows: (1) a robot may not injure a human being or, through inaction, allow a human being to come to harm; (2) a robot must obey orders given to it by human beings, except where such orders would conflict with the First Law; (3); a robot must protect its own existence as long as such protection does not conflict with the First or Second Law [Asimov, 1950]. However, in story after story, Asimov demonstrated that three simple hierarchically-arranged rules could lead to deadlocks when, for example, the robot received conflicting instructions from two people or when protecting one person might cause harm to others." (Lin/Bekey/Abney 2008: 30)

Der Explikationszwang bewirkt, dass alle Inkonsistenzen und Entscheidungskonflikte ex ante offengelegt und entschieden werden müssen, anstatt dass sie ad hoc in der konkreten Feldsituation entdchieden werden. Dies bedeutet, dass die Entscheidungskompetenz an zentrale übergeordnete Instanzen abwandert, die auf die Programmierung und Einsatzplanung des Robtoers Einfluss haben.

Dies wiederum impliziert, dass ein abstraktes, dekontextualisiertes ethisc hes Denken Überhand nimmt, das sich primär an generellen Prinzipien (und deren logische Interrelationen), nicht um konkrete situative Problemkonstellationen orientiert.

Zwang zur vollständigen Explikation der Einsatz- und Verhaltensregeln erzeugt Risiken des „Hacking"

Dank dieser Explizität befinden sich diese Regeln in einem Aggregatzustand, in dem sie prinzipiell überaus leicht kopiert, transportiert und gelesen werden können. Wenn es dem Feind gelingt, durch „hacking" oder auf andere Weise in den Besitz dieser Information zu gelangen, hat er vielerlei Möglichkeiten, die Wirkungen der AWS durch Anpassung seines Verhaltens (bzw. gar durch aktuve Störung der ihrer Steuerungssyteme) zu neutralisieren. (Borenstein 2008: 10)

Roboter erhöhen die Verletzlichkeit einer kriegsführenden Macht, insofern die Regeln und Routinen der Kriegsführung in stabile vollkommen explizierte uznd veräusserlichte hardware und Software-strukturen gegossen werden: mit der Folge, dass ein Feind, der diese eingebauten Regeln erkennt, leicht in der Lage ist, sie durch geeignete Adaptatioin seines taktishen Verhaltens unwirksam zu machen – ohne dass die Roboterarmee in der Lage wäre, ihre autonomen Waffensysteme schnell genug umzuprogrammieren….

Konventionelle Soldatenarmeen profilieren sich demgegenüber mit dear für lebende Menschen ujnd soziale Gruppen charakteristischen Eigenschaft, für den Feind grundsätzlich unberechenbar zu bleiben, weil immer wieder neue, nicht voraussehbare Entscheidungen getroffen werden.

　

Verwischung der Verantwortlichkeiten

Bereits bei konventionellen militärischen Aktivitäten besteht eine difuse Gemengelage von Verantwortlichkeiten. So neigt die Oeffentlichkeit dazu, für fälschliche Tötungen im Gefecht nicht nur die ausführenden Soldaten, sondern in hohem Ausmasse auch die Militärführung und die für den Kriegseinsatz letztlich verantwortlichen Politiker haftbar zu machen (Moshkina/Arkin 2007: 16).

Daneben besteht allerdings auch eine Tendenz, einen Teil der Haftung dem Roboter selbst zuzurechnen – und damit die mitinvolvierten menschlichen Personen zumindest zu einem kleineren Teil zu exkulpieren.

Unclear　 responsibility.　　To　 whom　 would　 we　 assign　 blame—and　 punishment—for　 improper　

conduct　 and　 unauthorized　 harms　 caused　 by　 an　 autonomous　 robot　 (whether　 by　 error　 or　

intentional):　 the　 designers,　 robot　 manufacturer,　 procurement　 officer,　 robot　

controller/supervisor,　 field　 commander,　 President　 of　 the　 United　 States...or　 the　 robot　 itself?　　 (Lin/Bekey/Abney 2008: 73)

Komplexere Programmierung erzeugt immer grössere Unvorhersehbarkeit des Roboterhandelns

Autonome Roboter können Aktionen ausführen und Wirkungen erzeugen, die weder von den Herstellern und Programmierern nicht von den für seinen Einsatz zuständigen Offizieren und -_Soldaten vorausgesehen und kontrolliert werden können.

„Programming for these robots is not as simple as one programmer sitting down to a computer and typing out a complex program for one robot. There are millions of lines of a programming code that are written by a group of programmers where no one person will possibly know the outcome of the entire program. There could easily be an incorrect code put in where a robot could possibly malfunction especially without the complete program being extensively tested." (Lewis, 2009).

Perhaps robot ethics has not received the attention it needs, given a common misconception that robots will do only what we have programmed them to do. Unfortunately, such a belief is a sorely outdated, harking back to a time when computers were simpler and their programs could be written and understood by a single person. Now, programs with millions of lines of code are written by teams of programmers, none of whom knows the entire program; hence, no individual can predict the effect of a given command with absolute certainty, since portions of large programs may interact in unexpected, untested ways. (And even straightforward, simple rules such as Asimov's Laws of Robotics (Asimov, 1950) can create unexpected dilemmas.) Furthermore, increasing complexity may lead to emergent behaviors, i. e., behaviors not programmed but arising out of sheer complexity (e. g., Kurzweil, 1999, 2005).

Roboter-Autonomie erzeugt einen straftrechtlichen „responsibility gap"

Insofern jede Verantwortlichkeit die Möglichkeit zur Kontrolle voraussetzt, entsteht im sozialen Feld ein Verantwortlichkeitsdefizit, wie sie z. B. auch im Verhältnis zwichen Arbeitgebern und ihren –angestellten, Eltern und ihren Kindern, oder zwishen Hundehaltern und ihren Hunden oderr zwidchen Kindersoldaten und die sie befehligenden Erwachsenen auftreten können(Maroni/Tamburrini 2006; Sparrow 2007):

Verwischung der Verantwortlichkeit kollidiert diametral mit dem wachsenden Bedarf nach Zurechnung von Verantwortlichkeiten (kriegsverbrechen, internationaler Strafgerichtshof)

"It is a minimal expression of respect due to our enemy — if war is going to be governed by morality at all — that someone should accept responsibility, or be capable of being held responsible, for the decision to take their life. If we fail in this, we treat our enemy like vermin, as though they may be exterminated without moral regard at all. The least we owe our enemies is allowing that their lives are of sufficient worth that someone should accept responsibility for their deaths.³⁰ Similarly, their grieving relatives are entitled to an answer as to why they died, which includes both knowing who is responsible and what their reasons were. Ensuring that someone can be held responsible for each death caused in war is therefore an important requirement of jus in bello." (Sparrrow 2007:

Mögliche Folge: Autonome Waffensystem erscheinen als illegitim und unterliegen einer zunehmenden öffentlichen Aechtung: wie die Landminen (Sparrow 2007).

Die Verwischung der Verantwortlichkeiten ist eine Eigenschaft, die Roboter mit anderen „Pseudopersonen" teilen: mit den juristischen Personen, bei denen Entscheidungen durch arbeitsteilige Partizipartion zahlreicher Mitglieder zustande kommen, so dass eine quantitative Zurechnung an Einzelpersonen ebenfalls nicht in Frage kommt,

In all diesen Fällen ist es nötig, einen von der strafrechtlichen „Schuld" scharf getrennten, kausalen Verantwortlichkeitsbegriff zu benutzen, wie er z. B. im zivilen Haftpflichtrecht Verwendung findet.

Er ergibt sich daraus, dass ein Geschädigter auf jeden Fall immer die Möglichkeit haben muss, eine für den Schaden verantwortliche Instanz zu benennen und auf Schadenersatz zu verklagen. (MARINO/Tamburrini 2006: 49)

Interessant ist die häufige Konstellation, dass zumindest ein Teil der Verantwortlichkeit für disfunktionales Roboterverhalten ausgerechnet einer solchen juristischen Person (Herstellerfirma) zufällt: mit der Folge, dass das Recht verantwortlichkeitsbegriffe konstruieren muss, die überhaupt in keiner Weise mehr auf menschliche Subjekte Bezug nehmen.

Allerdings verbieten es die genannten Komplexitäten und Unberechenbarkeite, militärische Roboter ähnlich wie die meisten anderen industriellen Produkte dem kausalen Produkthaftpflicht-zu unterstellen. in dem Sinne, dass der Hersteller für allfällige schädliche Wirkungen seines Erzeugnisses belangt werden kann.

De facto wird sich die Anwendung dieses zivilrechtlichen Konzepts as schwieirg erweisen, weil so viele andere Akteure für den konkreten Einsatz des Roboters, für die Umwelt, in der er agiert, und für die Probleme, die er zu lösen hat, eine Mitverantwortung tragen: Soldaten, Offiziere, technische Betreuer, (die z. B. für die Batterieladungen zuständig sind) der militärische Generalstab, bis zu den politischen Autoritäten, die über Armeeentseandungen beschliessen…..

Noch viel weniger wird ein Hersteller die Verantwortung für einen Roboter übernehmen können, der darauf angelegt ist, durch lernen neue Erfahrungen und Verhaltensroutinen zu erlernen, die zum Zeitpunkt seiner Herstellung überhaupt nicht abasehbar sind.

Vielmehr wird es immer erforderlich sein, die Verantwortlichkeit, die niemandem in toto zugerechnet werden kann, auf eine Vielzahl mitinvolvierter Akteure aufzuteilen (Lin, Bekey, Abney 2008: 57): wobei dann endlose Rechtsstreitigkeiten vorprogrammiert sind, weil über den Aufteilungsschlüssel natürlich keine konsensualen Vorstellungen bestehen.

　

Multiple Verantwortlichkriten zwingt zu Zurechnung an sehr umfassende Systeme

Bereit die Zurechnung an juristische Personen erfolgt aus schierer Not, weil es angesichts der arbeitsteiligen Organisation, die für ein produkt oder eine –dienstleistung verantworttlich ist, ncht mögöich ist, individuelle (oder abteilungsspezifische) Verantwortlichkeiten zu segregieren.

Im Falle von Kriegsrobotern, wo sich die Gesamtvearantwortung diffus auf Herstellerfirma, Programmierer, politische Instanzen, militärische offiziere und Soldaten verteilt, wird vielleicht die Verlagerung der Zuschreibung auf eine noch umfassendere EAbene (z. B. „Die Vereinigten Staaten" oder die NATO) erzwungen.

Man muss sich dann nicht wundern, wenn allfällige Racheaktionen nicht auf irgendene besonders Stelle, sondern auf die Gesamtheit des gesellschaftlich-politisch-militärischen Systems abzielen……

　

　

　

　

Schluss

Im Vergleich zu den Science Fiction Projektionen der vergangenen 80 Jahre sind die Fortschritte in der Kriegsrobotik vor allem deshalb bescheiden gebleiben, weil moderne Kriege im allgemeinen und asymmetrische Konflikte im besonderen die Sensomotorik und Reflexionskapazitäten der konventionellen Soldaten derart belasten, dass die Perrspektivem, sie könnten auch nur partiell durch Roboter substituiert werden, immer irrealer erscheint.

Dementsprechend sind auch in den letzten Jahren aufkeimenden Spekulationen darüber müssig, ob in Zukunft

- deviante Kriegshandlungen verhindert werden können, da Roboter für eine stringente-re Implementierung der genfer Konventrionen und anderer ethischer Normen besorgt sein werden (Arkin 2007; 2009; Lin/Bekey/Abney 2008)

- Kriegseintritte künftig erleichtert würden, da menschliche Kämpfer überwiegend gar nicht mehr im Kampfgebiet anwesend sein müssen (Borenstein 2008; Singer 2009a).

Sehr wohl gibt es aber – verstärkt seit Beginn des Irakkriegs – eine Tendenz zur Entwickung von Waffensystemen die innerhalb klar begrenzter funktionaler Nischen aufgrund eigenständiger Wahrnehmungen eigene Entscheidungen treffen und Aktionen ausführen – und damit – entfernt mit Kampfhunden vergleichbare - derivierte Autonomie aufweisen, die im Vergleich zu letzteren aber immer im Zugriff expliziter Regeln und reversibler technischer Manipulationen verbleibt.

Sie potenzieren den Asymmetriegrad der modernen Kriege, indem die mit konventionelleren Waffen und vollem Körpereinsatz kämpfenden Feinde grösseren Gefahren ausgesetzt sind und verringerte Wirkungsmöglichkeiten hinnehmen müssen. und deshalb wahrscheinlich dazu neigen werden, die auf aus dem Angriffe auf weichere, nichtmilitärische Ziele zu verlagern.

Andererseits kann der Einsatz von Robotern insofern enge Grenzen finden, als

- die Explizitheit ihrer Regelstrukturen es erleichtert, sie zu paralysieren;

- die gegenüber Kriegsverbrechen zunehmend sensibilisierte und auf den Ausbau internationaler Strafgerichtsbarkeit bedachte Weltöffentlichkeit nicht bereit ist, die mit dem Roboteareinsatz verbundene Diffusion der Verantwortlichkeit zu tolerieren.

Aehnlich wie der Polizeihund übernimmt der Roboter klar definierte Spezialaufgaben, für die er speziell „qualifiziert" worden ist. Die Aufgabe der menschlichen Führer besteht darin, zu verhindern, dass er diesen engen Rayon überschreitet, und dass seine Aktivitäten sinnvoll in grössere Aktionszusammenhänge eingefügt werden (die der Roboter niemals selber „überblicken" kann.

Roboter sind prädestiniert, den bisher den Soldaten zugemuteten „Kadavergehorsam" zu praktizieren, indem sie als völlig willige Instrumente in den Händen der Offiziere und Militärleitung fungieren (Sullins 2010: 270).

Komplementär dazu kann man menschliche Soldaten für anspruchsvollere Aufgaben freiumachen, in denen nicht die bedingungslose Konformität mit vertikaler Befehlsgewalt, sondern Beurteilungs-, Kontroll- und Korrektur- und Instandhaltungsfunktionen im Zentrum stehen (analog zu Entwicklungen uin hoch automatisierten industrieanlagen).

Generell wird die Entwicklung von Kriegsrobotern stärker ans Licht bringen, welches die spezifisch-menschlichen Fähigkeiten sind, die sich der Robotisierung grundsätzlich entziehen: z. B. die Fähigkeit, in sehr integral-synthetischer Weise (d. h. unter Einbeziehung von Emotionen, Intuition, Erinnerung an analoge vergangene Problemfälle) auf eine Situation zu reagieren, vor allem aber die Fähigkeit, einzelne taktische Handeln im Lichte umfassenderer Sinnzusammenhänge (z. B. strategischer Art) zu seligieren, spezifizieren und zu intepretieren.

Komplementarität: konventionelle Soldaten werden sich stärker auf „emotionale Intelligenz" spezialisieren

„….the last thing that computers will ever hope to match is our "emotional intelligence." This is the part of the brain that makes sense of social situations, which is often the toughest part of a soldier’s job in dealing with complex situations in conflicts like Iraq or Afghanistan. So, that’s why so many folks think we will head towards "warfighter’s associates" programs. These are mixed teams of human and robot soldiers, each doing what they do best." (P. W. Singer in Shachtman 2009).

Westliche Kultur: "Intersubjektive Bias"

Westliche Kulturen haben mit Robotern insofearn Mühe, als sie es sich gewohnt sind, nur Subjekte mit Empfindungsvermögen und Bewusstsein (ALTER EGO’s) als soziale Interaktionspartner zu akzeptieren. Dies kommt in der Dominanz intersubjektiver handlungstehorien (Emund Husserl, Max Weber, Alfred Schütz u,.a.) zum Ausdruck, die im Gegensatz zu behavioristischen Ansätzen auf dem (schwer erkennbaren) „subjejtkiven Sinn", (d.h. der Intemtion, die der Handelnde seinem Verhalten beileagt) insistieren.

Als sehr viel aufgeschlossener erweist sich hingegen die „animistische" Japanische Kultur, die schon immer Tiere, Pflanzen und unbelebte Objekte als Agenten akzeptiert hat, die mit irgendeiner Form von „Geist" begabt sind und deshalb als Ursprünge eigenständiger Handlungskausalität berücksichtigt werden müssen.

Insofern primär nicht die Maximierung individuellen Glücks, sondern die Aufrechterhaltung einer „vernünftigen sozialen Ordnung" (Rin-Ri) im Zentrum steht, kommen durchaus auch Roboter als eusoziale Agenten, die zu dieser Ordnung beitragen können, in Betracht (Kitano 2006).

„In Japan, ethics is the study of the community, or of the way of achieving harmony in human relationships, while in the West, ethics has a more subjective and individualistic basis. in my opinion, the Japanese expectation, or belief, that robots could keep ethical behaviours to be safe, harmonious, useful, sometimes even cute and cartoon-like tools increases the social and personal interests on robots, and motivates to improve their capability and functionality." (Kitano 2006: 81)

While most people agreed that "Humanoid" is a positive term for robotic research in Japan, the use of this type of research tend to be associated with "Frankenstein Complex"’ in western societies. Kaplan states that from the Japanese perspective, this difference seems to stem from the blurring between realizations of nature and the production of man. He described this Japanese point of view as "linking beings instead of distinguishing them", whereas in western discussion of robotics, the distinction between the natural and the artificial is always stressed in western cultures.

Literatur

ACLU (American Civil Liberties Union Foundation) Request under Freedom of Information Act New York 2009.

http://www.aclu.org/files/assets/2010-1-13-PredatorDroneFOIARequest.pdf

Arkin, Ron.C. (2007). Governing Lethal Behavior: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture, Georgia Institute of Technology GVU Technical Report GIT-GVU-07- 11, 1-117.

http://www.cc.gatech.edu/ai/robot-lab/online-publications/formalizationv35.pdf

Arkin, Ron C. (2009) Governing Lethal Behavior in Autonomous Robots. CRC Press.

Asaro, P..(2006), "What Should We Want From a Robot Ethic?", International Review of Information Ethics, Vol. 6, pp. 9-16, Dec. 2006.

Asimov,　Isaac　(1950).　　I,　Robot　(2004　edition),　New　York,　NY:　Bantam　Dell.　

Asimov,　Isaac　(1942).　Runaround In: Astounding Science Fiction, March 1942　

Axe David 2009 A man and his drones: on the front line of robotic warfare. WIRED.CO.UK, December 2. http://www.wired.co.uk/news/archive/2009-12/02/a-man-and-his-drones-on-the-front-line-of-robotic-warfare

Barnes, Rhonda 2009 Ethical, Legal and Socuietal issues of Robotic Technology within the Military Graduate Research Report, Bowie State University Maryland

Basowitz H. et. al. 1955. Anxiety and Stress. McGraw-Hill, New York.

Berdal Mats R. (1993) Whither UN Peacekeeping? (Adelphi Papers, International Institute of Strategic Studies, Tavistock, London.

Blau, Peter M. The Hierarchy of Authority in Organizations (American Journal of Sociology 73, 1967, 453-467.

Borenstein, Jason (2008) "The Ethics of Autonomous Military Robots," Studies in Ethics, Law,

and Technology: Vol. 2 : Iss. 1, Article 2.: http://www.bepress.com/selt/vol2/iss1/art2

Damasio A (1995) Descartes’ error. Pan Macmillan, New York

Canning, J., "A Concept of Operations for Armed Autonomous Systems", Presentation at NDIA

Disruptive Technologies Conference, 2006.

Caplow, Theodore, "Rumors in War", Social Forces, 25, 1947, pp. 298-302.

Carafano, James Jay / Gudgel Andrew (2007) The Pentagon’s Robots: Arming the Future, Background No 2093, December 19. http://www.braintech.com/news/backgrounder-2007-12-19.pdf

Donnelly, S.B. (2005). "Long-Distance Warriors," Time.com, Dec. 4, available at

http://www.time.com/time/magazine/article/0,9171,1137653,00.html (last visited

Oct. 20, 2010).

Egbert R. L. et. al. 1958 Fighter 1: A Study of Effective and Ineffective Combat Performance. Special Report 13, Human Resources Research Office. Wahsington D. C.

Floridi, Luciano. and Sanders (2004), J. W.: On the Morality of Artificial Agents. Minds and Machines. 14.3, pp. 349-379. http://www.i-r-i-e.net/inhalt/006/006_full.pdf

Franklin, Stan (2003), 'IDA: A Conscious Artefact?' in Machine Consciousness, ed. Owen Holland (Exeter, UK: Imprint Academic).

Gabriel, R.A. /Savage P.L. Crisis in Command. Hill and Wang, New York 1978

George Al. L (1971) Primary Groups, Organization and Military Performance. (in: Little, R. W. Handbook of Military Institutions, Sage Publ. Beverly Hills, 293-318).

Gips J (1995) Towards the ethical robot. In: Ford K, Glymour C, Hayes P (eds) Android epistemology. MIT Press, Cambridge, MA pp 243–252

Goleman D (1995) Emotional intelligence. Bantam Books, New York

Guetlein, Michael A. Lethal Autonomous Weapons — Ethical and Doctrinal Implications. Joint Military Operation Department . http://www.dtic.mil/cgi-bin/GetTRDoc?AD=ADA464896&Location=U2&doc=GetTRDoc.pdf

Hauser, M., Moral Minds: How Nature Designed Our Universal Sense of Right and Wrong, ECCO, HarperCollins, N.Y., 2006.

Herman, Mark / Fritzson Art / Hamilton, Booz Allen War machines. C4ISR Journal June 1, 2008

http://www.c4isrjournal.com/story.php?F=3434587

Kaplan F (2004) Who is afraid of the humanoid? Investigating cultural differences in the acceptation of robots. International Journal of Humanoid Robotics 1(3):465–480

Kitano Naho 2006 ‚Rinri‘: An Incitement towards the Existence of Robots in japanese Society. International Review of Information Ethics, 6, 12, , 78-83.

http://www.i-r-i-e.net/inhalt/006/006_full.pdf

Kurzweil,　Ray　(2005).　　The　Singularity　is　Near:　When　Humans　Transcend　Biology,　New　York,

　NY:　Viking　 Penguin.　

Lang Kurt Military Organizations. In: March, J. G. Handbook of Organizations, Rand McNally, Chicago 1965: 838-878.

Lin, Patrick / Bekey Geirge / Abneyx, Keith Autonomous Military Robots: Risk, Ethics and Design. US Department of Navy, Office of naval Research, December 2008.

http://gees.org/files/documentation/30012010082946_Documen-07767.pdf

Lin, Patrick / Bekey Geirge / Abneyx, Keith 2009 Robots in War: Issues of Risks and Ethics. In: Capuuro / Nagenborg Ethics and Robotcs, AKA Verlag Heidelberg, 49-67)

http://digitalcommons.calpoly.edu/cgi/viewcontent.cgi?article=1010&context=phil_fac

Mandl, Stefan Erschließung des unberücksichtigten Kontexts formalisierten Wissens. Dissertationsschrift, Erlangen 2008. http://deposit.ddb.de/cgi-bin/dokserv?idn=988688395&dok_var=d1&dok_ext=pdf&filename=988688395.pdf

Marino Dante / Tamburrini G.2006 Learning Ribots and Human –Responsibility. Internationbal Rev iew of Information Ethics, 6, 12, 47-51. http://www.i-r-i-e.net/inhalt/006/006_full.pdf

May, L., Rovie, E., and Viner, S. (2005) The Morality of War: Classical and Contemporary Readings, Pearson-Prentice Hall.

Milgram, Stanley. (1974), Obedience to Authority; An Experimental View. HarperCollins

Moshkina, Lilia, and Ronald C. Arkin. 2007. Lethality and autonomous systems: Survey design and results. Technical Report GIT-GVU-07-16. Mobile Robot Laboratory, College of Computing, Georgia Institute of Technology, Atlanta, Georgia.

http://www.cc.gatech.edu/ai/robot-lab/online-publications/MoshkinaArkinTechReport2008.pdf

Nof, Shimon Y. (editor) (1999). Handbook of Industrial Robotics, 2nd ed. John Wiley & Sons

Office of the Surgeon Multinational Force-Iraq and Office of the Surgeon General

United States Army Medical Command. (2006). The Mental Health Assessment

Team (MHAT) IV Operation Iraqi Freedom 05-07: Final Report, November 17,

Picard R (1997) Affective computing. MIT Press, Cambridge, MA

Pike, J. (2009). Coming to the battlefield: Stone-cold robot killers. The Washington Post, January 4, p. B03. Retrieved from:

Puppe, Frank ; Stoyan, Herbert ; Studer, Rudi: Knowledge Engineering. In: Görz, Günther (Hrsg.) ; Rollinger, Claus-Rainer (Hrsg.) ; Schneeberger, Josef (Hrsg.): Handbuch der Künstlichen Intelligenz. 4. Auflage. Oldenbourg Verlag, 2003, Kapitel 15, S. 599– 641.

　Royakkers Lambèr / van Est Rinie 2010 The cublcle warrior: marionette of digitalized warfare. Ethics and Informatioin Technology 12, 3, 289-296

Shachtman, Noah. (2008). Shrinks Help Drone Pilots Cope With Robo-Violence. Retrieved April 02, 2009 http://blog.wired.com/defense/2008/08/flying-drones-f.html

Shachtman, Noah. (2009). Inside the Rise of the Warbots.. WIRED. Dangerroom Febr. 4, 2009.http://www.wired.com/dangerroom/2009/02/peter-singers-w/

Sharkey,　Noel　(2008b).　　"Grounds　for　Discrimination:　Autonomous　Robot　Weapons",　RUSI　Defence　 Systems,　11.2:　86‐89.　Shils E. A. / Janowitz M. Cohesion and Disintegration oft he Wehrmacht in World War II. Public Opinion Quarterly 12, 1948).

Simonite, P. (2009). Plan to teach military robots the rules of war. New Scientist, June 18.

Singer, P. W. 2009a Robots at War: The New Battlefield. The wislon Quarterly, Winter, 30-48.http://www.wilsonquarterly.com/article.cfm?aid=1313

Singer, P. W 2009b Wird for War. Robots and Military Doctrine. Joint Forces Quarterly 52,1 104-110)

Singer P. W. 2009c Military Robots and the Law of War. The New Atlantis, Winter 2009, 27-47.

Sparrow, R. (2007). "Killer Robots," Journal of Applied Philosophy, Vol. 24, No. 1, 62-77.

Stouffer, Samuel et. al. The American Soldier. Combat and ist Aftermath. Princeton University press, Princeton N. J. 1949

Sullins John P.2006 When is a Ro bot of Moral agent? International Review of Information Ethics, 6, 12, 24-30.

Sullins John P.2010 RoboWarfare: can robots be more ethical than humans on the battlefield? (Journal of Ethics and information technology 12:3, 263-275.http://www.springerlink.com/content/k263v4848j4kl556/fulltext.pdf

Surgeon General’s Office (2006). Mental Health Advisory Team (MHAT) IV Operation Iraqi Freedom 05–07, Final Report, November 17. Retrieved from: http://www.house.gov/delahunt/ptsd.pdf.

Tamburrini Guglielmo Robot Ethics: A View from the Philosophy of Science. in R. Capurro and M. Nagenborg (eds.), Ethics and Robotics, IOS Press/AKA, Amsterdam-Heidelberg, 11-22. http://people.na.infn.it/~tamburrini/pub/Tamburrini_Ethics%20and%20Robotics.pdf

Torrance Steve Ethics and consciousness in artificial agents. AI & Society (2008) 22:495–521

US　Army　Surgeon　General’s　Office　(2006).　　Mental　Health　Advisory　Team　(MHAT)　IV:　Operation　Iraqi　 Freedom　05-07,　　November　16,　2006.　　Last　accessed　on　September　15,　2008:　

http://www.globalpolicy.org/security/issues/iraq/attack/consequences/2006/1117mhatreport.pdf　

Young, Stuart / Kott Alexander Control of Small Robot Squads in Complex Adversarial Environments: a Review. Army Research Lab Adelphi 6/2009

http://alexander.kott.org/pubs_website/14CCRTS-2009-RobotC2.pdf

Wallach, Wendel / Colin Allen / Smit Ian Machine morality: bottom-up and top-down

approaches for modelling human moral faculties. AI & Society 22, 2008: 565-582

Walzer, M., Just and Unjust Wars, 4th Ed., Basic Books, 1977.

Weng, Yueh-Hsuan , Chien-Hsun Chen and Chuen-Tsai Sun 2009 Toward the Human–Robot Co-Existence Society: On Safety Intelligence for Next Generation Robots. Internationbal Journal of Social Robotics. 1, 4, 267-282.

Whitby, B. (2008). "Computing machinery and morality," AI & Society, Vol. 22, No. 4, 551-563.

Ziegler, R. (1968). Einige Ansatzpunkte der Militärsoziologie und ihr Beitrag zur soziologischen Theorie. In R. König (Eds.), Beiträge zur Militärsoziologie (13-37), Köln und Opladen: Westdeutscher Verlag, KZfSS.