Munich Security Conference 2019: Artificial Intelligence mischt mit
Kommentar von Dr. Peter Fey, Mitglied der Geschäftsleitung Dr. Wieselhuber & Partner
Dr. Peter Fey
Mitglied der Geschäftsleitung
Wenn heute die Münchner Sicherheitskonferenz startet, wird ein Thema zwar eher am Rande diskutiert – dieses jedoch zunehmend kontrovers: Die Frage eines angemessenen Umgangs mit den Folgen der Artificial Intelligence (AI). Als Multiplikator menschlicher Effektivität und Effizienz ist AI heute schon in vielen Bereichen nicht mehr wegzudenken. Doch gerade im Zusammenhang mit der „3. Revolution in der Kriegsführung“ nach Erfindung von Schießpulver und Atomwaffen bekommen Lethal Autonomous Weapon Systems (LAWS) oder Lethal Autonomous Robots (LAR) zunehmend Aufmerksamkeit.
Waffensysteme, die selbständig Ziele suchen, identifizieren und ausschalten, ohne dass ein menschlicher Entscheidungsträger eingeschaltet ist? Befürworter, die mit der Entlastung menschlicher Einsatzkräfte sowie geringeren Gefahren und Kosten argumentieren, sehen sich mit ethischen Bedenken konfrontiert. Algorithmen entscheiden autonom über „Wohl und Weh“, Verantwortlichkeiten können nicht klar zugeordnet werden.
Zweifellos schafft die moderne Computertechnologie, wie z.B. noromorphe Computerchips, kombiniert mit entsprechender Sensortechnologie und der Programmierung immer leistungsfähigerer Algorithmen zahlreiche Optionen, die auch der Defence Sektor auf der einen Seite für sich beansprucht. Auf der anderen Seite stehen u.a. die Unterzeichner der Asilomar Priciples, die den Einsatz der AI für menschlichen Fortschritt und Gemeinwohl fordern.
Dabei steht ein weiterer Aspekt im Raum, der mit der aktuell virulent diskutierten Cyber Security zu tun hat: Was wäre mit all den in Zukunft auf dem Feld befindlichen LAWS, wenn diese durch Kriminelle und/oder fremde Militärs gehackt und „neu ausgerichtet“ werden können? Denn über eine „4. Revolution in der Kriegsführung“, nämlich dem Cyber Warfare, kann eine völlig neue Lage entstehen. Spannend zu beobachten, wie sich diese Diskussion entwickelt.
Vorsorglich sollten sich die Unternehmen der Verteidigungs- und Sicherheitsbranche schon heute rüsten und eine klare Position beziehen: Es geht um die Entwicklung von passenden Produkten und Leistungen, Anpassungen in der Organisation und darum, ein attraktives Umfeld für IT-Spezialisten zu bieten. So gilt es z.B. auch die Effektivität der F&E zu steigern, branchenfremde Schrittmachertechnologien zu adaptieren und das „Not-invented-here-Syndrom“ zu überwinden, um über Partnerschaften und Kooperationen rasch Kompetenzlücken zu schließen.
Munich Security Conference 2019: Artificial Intelligence mischt mit
Waffensysteme, die selbständig Ziele suchen, identifizieren und ausschalten, ohne dass ein menschlicher Entscheidungsträger eingeschaltet ist? Befürworter, die mit der Entlastung menschlicher Einsatzkräfte sowie geringeren Gefahren und Kosten argumentieren, sehen sich mit ethischen Bedenken konfrontiert. Algorithmen entscheiden autonom über „Wohl und Weh“, Verantwortlichkeiten können nicht klar zugeordnet werden.
Zweifellos schafft die moderne Computertechnologie, wie z.B. noromorphe Computerchips, kombiniert mit entsprechender Sensortechnologie und der Programmierung immer leistungsfähigerer Algorithmen zahlreiche Optionen, die auch der Defence Sektor auf der einen Seite für sich beansprucht. Auf der anderen Seite stehen u.a. die Unterzeichner der Asilomar Priciples, die den Einsatz der AI für menschlichen Fortschritt und Gemeinwohl fordern.
Dabei steht ein weiterer Aspekt im Raum, der mit der aktuell virulent diskutierten Cyber Security zu tun hat: Was wäre mit all den in Zukunft auf dem Feld befindlichen LAWS, wenn diese durch Kriminelle und/oder fremde Militärs gehackt und „neu ausgerichtet“ werden können? Denn über eine „4. Revolution in der Kriegsführung“, nämlich dem Cyber Warfare, kann eine völlig neue Lage entstehen. Spannend zu beobachten, wie sich diese Diskussion entwickelt.
Vorsorglich sollten sich die Unternehmen der Verteidigungs- und Sicherheitsbranche schon heute rüsten und eine klare Position beziehen: Es geht um die Entwicklung von passenden Produkten und Leistungen, Anpassungen in der Organisation und darum, ein attraktives Umfeld für IT-Spezialisten zu bieten. So gilt es z.B. auch die Effektivität der F&E zu steigern, branchenfremde Schrittmachertechnologien zu adaptieren und das „Not-invented-here-Syndrom“ zu überwinden, um über Partnerschaften und Kooperationen rasch Kompetenzlücken zu schließen.
Weitere Informationen im W&P Dossier „Black Box F&E: Herausforderungen in der Verteidigungsindustrie“ .