Schlagwort-Archiv: Künstliche Intelligenz

Kann künstliche Intelligenz ethisch sein? KIT-Professorin gibt Ausblick in digitale Zukunft

Es ist eine große Herausforderung für die Menschheit, Ethik und Künstliche Intelligenz zu verknüpfen. Das Karlsruher Institut für Technologie veranstaltet zu dem Thema am 28. November eine Vortrags- und Diskussionsrunde unter dem Titel: „Algorithm rules – Wie kommt Ethik in KI?“ Ein Beitrag in „Badische Nachrichten“. … mehr ….

 

 

Leitlinien für den verantwortungsvollen Umgang mit Algorithmen

StrommastenDie Initiative D21 hat neun Leitlinien zum Monitoring von algorithmischen Systemen veröffentlicht. Diese wurden in Berlin vorgestellt und ihre Praxistauglichkeit mit Vertreterinnen der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“, der High-Level Expert Group on Artificial Intelligence (AI HLEG) sowie der Datenethikkommission diskutiert.

„Viele Anwendungen und Dienste des Alltags und der beruflichen Praxis beruhen heute auf algorithmischen Systemen. Sie helfen, indem sie z. B. aus großen Datenmengen Erkenntnisse ziehen und Informationen in Millisekunden verarbeiten oder Prozesse automatisieren“, erklärt Hannes Schwaderer, Präsident der Initiative D21, und meint weiter, um sie verantwortungsvoll einzusetzen und faire Ergebnisse zu erzielen, seien im Vorfeld bestimmte Überlegungen anzustellen. Die Leitlinien dienen als Orientierung, wichtige Fragen nach der Verantwortlichkeit und Kontrolle, der Nichtdiskriminierung, der Transparenz und Nachvollziehbarkeit sowie der Nachhaltigkeit zu berücksichtigen.

Interdisziplinäre und multiperspektivische Betrachtung relevanter Fragestellungen

Dr. Irina Eckardt, Vorständin Initiative D21 und KPMG, hat die Arbeit zum Algorithmen-Monitoring geleitet. Sie stellt fest: „Beim Planen, Prüfen und Kontrollieren geht es längst nicht mehr nur um die Algorithmen, sondern auch um Daten und um Personen, die entscheiden, erstellen, prüfen und nutzen. All das zusammengenommen bildet ein komplexes System – ein algorithmisches System“. Sie schlussfolgert: „Diese Komplexität stellt uns vor neue Herausforderungen, bei denen wir durch die aus der Unterarbeitsgruppe (UAG) Algorithmen-Monitoring entstandenen Denkimpulse und Leitlinien besseres Verständnis bieten“.

Expertinnen und Experten aus Wissenschaft, Wirtschaft, Verwaltung und Zivilgesellschaft haben knapp zwei Jahre in der UAG Algorithmen-Monitoring zusammengearbeitet und relevante Fragestellungen diskutiert. Beachtet wurden dabei vor allem ethisch-rechtliche, sozioökonomische sowie technologische Perspektiven.

Die Ergebnisse wurden in drei Veröffentlichungen zu den Themen „Bias in algorithmischen Systemen“, „Transparenz und Nachvollziehbarkeit algorithmischer Systeme“ und „Verantwortung für algorithmische Systeme“ festgehalten und über die Projektlaufzeit der UAG kontinuierlich weiterentwickelt. Sie bilden die Basis für die neun Leitlinien:

  1. Verantwortlichkeiten verteilen und verorten: Verantwortlichkeiten müssen zwischen den beteiligten Akteurinnen und Akteuren aufgeteilt werden, so dass Verantwortliche vor allem für Nutzende und Betroffene eindeutig identifiziert werden können.
  2. Bias erkennen und bewerten: Durch die deutlichere Konfrontation mit bisher verborgenen subjektiven Wertungen müssen diese sogenannten Bias überprüft und der Umgang mit ihnen gestaltet werden.
  3. Transparenz ermöglichen: Transparenz ist eine notwendige Grundlage für Prüfbarkeit, ihre Umsetzung in algorithmischen Systemen muss spezifisch an die Nutzungsgruppen angepasst werden.
  4. Nachvollziehbarkeit gewährleisten: Algorithmische Systeme müssen von Anfang an so gestaltet werden, dass Prozesse im Nachhinein durch kontextbezogene Informationen über das System für unterschiedliche Nutzungsgruppen nachvollziehbar sind.
  5. Bestehende Regulierungen anwenden: Das bestehende Recht muss angewendet, für eine digitale Anwendung überprüft und gegebenenfalls angepasst werden.
  6. Grundlegende Regeln definieren: Mit Mindeststandards sind algorithmische Systeme vergleichbarer und deren Einhaltung kann zu mehr Vertrauen und Akzeptanz führen.
  7. Wissen interdisziplinär austauschen: Kontinuierlicher, disziplin- und organisationsübergreifender Austausch verbessert die Qualität algorithmischer Systeme.
  8. Positiven Nutzen für Gesellschaft erzeugen: Nur eine am Gemeinwohl orientierte Entwicklung und ein nachhaltiger Einsatz algorithmischer Systeme können ethischen Anforderungen langfristig gerecht werden.
  9. Leitlinien kontinuierlich überprüfen: Die regelmäßige Beurteilung von Anpassungen rechtlicher Regelungen und deren Auswirkungen auf die Gestaltung algorithmischer Systeme müssen Bestandteil der Überprüfung sein, die Leitlinien kontinuierlich verbessert werden.

 Zum Hintergrund

Algorithmen bergen ein immenses Potenzial, insbesondere kommt ihnen eine wachsende Bedeutung bei technologischen Entwicklungen zu. Gleichzeitig entstehen eine zunehmende Komplexität und Intransparenz von algorithmischen Systemen. Dies bringt steigende Herausforderungen und verschiedene Fragestellungen mit sich. Vor diesem Hintergrund gründete die Initiative D21 Anfang 2018 eine Unterarbeitsgruppe (UAG) der AG Ethik zur Bearbeitung von Fragestellungen rund um das Thema „Algorithmen-Monitoring“.

Die UAG Algorithmen-Monitoring diskutierte relevante Fragestellungen mit interdisziplinären Expertinnen und Experten aus drei Perspektiven: technologisch, sozioökonomisch und ethisch-rechtlich. Ethisch-rechtlich wurde gefragt, welche rechtlichen Grundlagen die Regulierung algorithmischer Systeme sichert. Sozioökonomisch wurden den sozialen und ökonomischen Chancen und Herausforderungen durch die Anwendung von algorithmischen Systemen nachgegangen und Maßnahmen zur Reduktion von Risiken erarbeitet. Die technologische Perspektive bezieht sich auf die praktische Umsetzbarkeit eines Algorithmen-Monitorings und setzt sich mit deren Bedingungen, Problemen und Möglichkeiten auseinander.

Aus den Diskussionen wurden Thesen definiert und für die drei Schwerpunktthemen „Bias in algorithmischen Systemen“, „Transparenz und Nachvollziehbarkeit“ sowie „Verantwortung für algorithmische Systeme“ in Denkimpulsen veröffentlicht. Als Zusammenfassung wurden neun Leitlinien zum Algorithmen-Monitoring entwickelt. Sie beinhalten grundlegende Fragen für weitere Diskussionen und dienen als Handlungsaufforderung.

„Der Patient wird nicht digital, er bleibt analog“

Medizinethikerin Sabine Salloch sieht in der Digitalisierung des Gesundheitswesen viele Chancen – auch wenn noch technische und Datenschutzprobleme gelöst werden müssten. Telemedizin könne eine Option sein, insbesondere ältere Menschen müssten aber auch weiterhin zum Arzt gehen können, sagte sie im „Deutschlandradio“. … mehr …

 

Künstliche Intelligenz: Wollt Ihr mit Zahlen die Menschen verstehen?

Die Ethik begleitet die Datenrevolution kritisch. Denn die digitale Zeitenwende, die nun von Künstlichen Intelligenzen mitgestaltet wird, lässt vieles aus dem Blick geraten, was uns als Menschen wichtig ist. Eine philosophische Zwischenbilanz. Ein Beitrag in der „FAZ“. … mehr …

 

KI, mein Freund und Helfer – Studie zu den Implikationen der Interaktion mit Künstlicher Intelligenz

(Bildquelle: © Fraunhofer FIT)

(Bildquelle: © Fraunhofer FIT)

Künstliche Intelligenz (KI) durchdringt unser Privat- und Berufsleben immer stärker. Wir als Menschen interagieren daher in unserem Alltag immer öfter mit KI. Im Rahmen einer gemeinsamen Studie der Projektgruppe Wirtschaftsinformatik des Fraunhofer FIT sowie der Beratungsgesellschaft EY (Ernst & Young) wurde daher analysiert, wie Unternehmen Interaktionen mit KI erfolgreich und umsichtig gestalten können.

Die Studie ist ab sofort verfügbar und basiert neben einer fundierten wissenschaftlichen Recherche insbesondere auch auf einer umfassenden Interviewstudie mit 25 KI-Experten und -Lösungsanbietern.

Die Studie kommt zu dem Ergebnis, dass Interaktionen und unterschiedliche Formen der Zusammenarbeit zwischen Menschen und KI einer sinnvollen Gestaltung bedürfen. »Es ist wichtig zu verstehen, wie wir Menschen mit Technologien interagieren werden, die uns auch in komplexen Denkaufgaben unterstützen und dabei individuell auf unsere Gedanken und Gefühle eingehen. Und umgekehrt müssen wir verstehen lernen, wie diese Technologien unsere Handlungen wahrnehmen, interpretieren und darauf reagieren«, erklärt Prof. Dr. Nils Urbach, Professor für Wirtschaftsinformatik an der Universität Bayreuth und stellvertretender wissenschaftlicher Leiter der Projektgruppe Wirtschaftsinformatik des Fraunhofer-Instituts für Angewandte Informationstechnik FIT.

Bestehende KI-Anwendungsfälle lassen sich als Ergebnis der Studie in drei Gruppen von Interaktionstypen einordnen: Die erste Gruppe beschreibt KI als Automaten, wodurch Handlungen des Menschen als eine Art Schutzengel überwacht, abgesichert und bei Bedarf unterstützt werden.

Die zweite Gruppe, KI als vielfältiger Helfer, umfasst die Interaktionen in denen KI im Hintergrund Arbeiten des Menschen unterstützt, den Menschen bedarfsgetrieben mit Informationen versorgt oder im engen Austausch gemeinsame Ergebnisse erarbeitet werden.

Schließlich werden in der dritten Gruppe solche Anwendungsfälle gebündelt, in denen KI durch eine hohe Personalisierung und soziale Elemente in der Interaktion als eine Art bester Freund wahrgenommen wird.

Die verschiedenen Interaktionstypen können anhand von neun Gestaltungsdimensionen sowie mit Hilfe von zwei Kriterien unterschieden werden, die sich beide auf die Interaktion mit dem Menschen beziehen. Zum einen ist die Handlungsfreiheit von KI-Lösungen unterschiedlich ausgeprägt: In manchen Fällen sollen sie nur auf explizite Befehle reagieren; in anderen Fällen ist es gewünscht, dass sie selbstständig entscheiden und handeln.

Zum anderen gibt es verschiedene Grade der Wechselseitigkeit: Je genauer die ungleichen Partner ihr Verhalten gegenseitig wahrnehmen, je mehr Informationen sie austauschen und je stärker ihre Handlungen einander beeinflussen, desto ausgeprägter ist ihre wechselseitige Interaktion.

Darüber hinaus beeinflussen weitere Faktoren die Akzeptanz und das Vertrauen in den Einsatz von KI im Alltag: Wichtig ist, dass die Transparenz der Interaktionen mit KI-Technologien bewusst gestaltet wird. Ebenso sind spezifische Anpassungen an die individuellen Anforderungen des Nutzers (Personalisierung) und Ähnlichkeiten mit dem Menschen (Anthropomorphologie) für die Akzeptanz von KI-Lösungen wichtig.

Die Studie diskutiert darüber hinaus die Implikationen für eine erfolgreiche Gestaltung von Mensch-KI-Interaktionen in der Zukunft. Die Prognosen zur zukünftigen Entwicklung werden in zehn Thesen detailliert beschrieben.

»Unternehmen stellen bereits heute die Weichen für eine erfolgreiche Gestaltung zukünftiger Mensch-KI-Interaktionen. Unsere 10 Thesen zeigen unmittelbar den Handlungsbedarf in den Bereichen Strategie, Technologie und Organisation auf. Nur durch eine ebenso offene wie reflektierte Betrachtung von KI-Lösungen sowie deren Chancen und Grenzen in der Interaktion mit Menschen gelingt die Umsetzung in Unternehmen«, so der EY-Partner Dr. Yilmaz Alan

Interessierte können unter folgendem Link weitere Informationen zur Studie erhalten und die vollständige Studie herunterladen.

Autonomes Fahren – Warum wir Leben verrechnen dürfen (sollten)

Der Philosoph Richard David Precht spricht bei Spiegel Online vom Irrsinn, Maschinen Ethik einzuprogrammieren. Dabei stützt sich Precht auf das sakrale Emblem der menschlichen Gattung – das unantastbare Prinzip der Menschenwürde. Doch lässt sich die Nicht-Verrechenbarkeit des menschlichen Lebens so einfach begründen, oder war sie immer schon Teil unserer kulturellen und lebensweltlichen Praxis? Ein Beitrag in Heise.de“ … mehr …

 

KI und Ethik: Eine Bestandsaufnahme

Der frühe französische Aufklärer Julien Offray de La Mettrie hatte eine revolutionäre Idee, die noch heute bei vielen heftige Reaktionen auslöst: der Mensch ist seiner Ansicht nach bloß eine biologische Maschine – Geist und Intelligenz seien im Grunde reproduzierbar. Und damit stand auf einmal die Grundidee für künstliche Intelligenz im Raum. Faszinierend ist, dass das Nachdenken über eine künstliche Intelligenz dem technischen Stand schon immer weit voraus war: Bereits seit den 1950ern nennt man zum Beispiel den Zeitpunkt, ab dem eine künstliche Intelligenz die menschliche übertreffen kann die technologische Singularität. Ein Beitrag in Politik Digital“ … mehr

 

Sarah Spiekermann über Werte im Digitalen: „Firmen müssen Kunden ernst nehmen in ihren Wertbedürfnissen“

Als Professorin für Wirtschaftsinformatik und Gesellschaft ist Sarah Spiekermann eine der gefragtesten Expertinnen für die gesellschaftliche Gestaltung der Digitalisierung. So hat sie die OECD und die EU-Kommission zu diesem Thema beraten. In ihrem Blog Die ethische Maschine beim österreichischen Standard schreibt sie über ethische Fragen rund um digitale Technologien. Die gebürtige Düsseldorferin entwickelt momentan mit dem weltweit größten Ingenieursverband (IEEE) einen Ethikstandard zur technischen Entwicklung. Dadurch soll Technik in Zukunft von Grund auf ethische Normen erfüllen, schon bei der Programmierung oder dem Bau. Ein Beitrag in „Detektor“. … mehr …

 

Bundesverband für Künstliche Intelligenz & Ethik wächst weiter

Das IT-Unternehmen doubleSlash ist neues Mitglied im KI Bundesverband. Der 2018 gegründete Verband hat sich zum Ziel gesetzt, die Entwicklung von „Künstlicher Intelligenz“ (KI) zu fördern und zu steuern – und das sowohl aus wirtschaftlicher als auch aus ethischer Sicht. doubleSlash treibt seit vielen Jahren KI-Anwendungen im industriellen Umfeld voran. Mit der Mitgliedschaft im KI Bundesverband unterstreicht das Unternehmen die wirtschaftliche Bedeutung von KI und die gesellschaftliche Verantwortung der Mitglieder.

Die Potenziale von Künstlicher Intelligenz sind unter Experten unbestritten. Ebenso, dass mit KI erhebliche gesellschaftliche und wirtschaftliche Veränderungen einhergehen. Zu den großen Herausforderungen gehört es, Chancen und Risiken abzuwägen und die Entwicklung und Anwendung von KI-Technologien „menschen-zentriert und menschen-dienlich“ zu steuern, wie es beim KI Bundesverband heißt.

„Das ist auch ein zentrales Anliegen von doubleSlash“, macht Konrad Krafft, Gründer und geschäftsführender Gesellschafter von doubleSlash, deutlich. „Künstliche Intelligenz birgt ein ungeheures Innovationspotenzial auf praktisch allen Gebieten unseres Lebens. Dieses Potenzial gilt es auszuschöpfen. Allerdings ist damit auch eine große Verantwortung verbunden, denn letztlich müssen wir alle daran interessiert sein, dass KI immer dem Menschen dient.“

doubleSlash setzt seit vielen Jahren KI ein, um industrielle Prozesse zu optimieren – zum Beispiel durch den Einsatz von Machine Learning Methoden für Anwendungen im Bereich Predictive Maintenance. Dabei ist das Softwarehaus auch für namhafte OEMs in Stuttgart und München tätig.

KI-Lösungen von doubleSlash werden eingesetzt, um beispielsweise

  • Lebensdauer und Energieleistung von Windkraftanlagen zu prognostizieren,
  • Wartungsintervalle in Fabriken eng an den tatsächlichen Erfordernissen auszurichten oder
  • um Automobile für das autonome Fahren zu trainieren.

„In jüngster Zeit gewinnt auch das Thema `Data Driven Decision Making´ für Unternehmen an Bedeutung“, so Danny Claus. „Dabei geht es darum, durch den Einsatz von automatisierten Analyseverfahren aus großen Datenmengen Wissen zu generieren und wertschöpfend im Unternehmen einzusetzen.“

KI Bundesverband wächst weiter

Der KI Bundesverband hat sich im Frühjahr 2018 gegründet. Heute gehören ihm bereits mehr als 160 innovative Unternehmen, KMUs, Startups, Wissenschaftler und andere Experten an. Ihnen gemeinsam ist ihr zentraler Geschäfts- oder Forschungszweck: die Entwicklung und Anwendung von Technologien auf Basis von künstlicher Intelligenz unter Berücksichtigung ethischer Werte.

Zu den zentralen Zielen des Verbandes gehört es, aktiv zur positiven Entwicklung von KI beizutragen. Dabei geht es zum einen darum, die Wettbewerbsfähigkeit deutscher KI-Unternehmen im internationalen Umfeld zu stärken und Deutschland als attraktiven Wirtschaftsstandort für das KI-Ökosystem zu etablieren. Aber auch darum, den Einsatz von KI-Technologien so zu steuern, dass die Interessen der Menschen stets gewahrt sind. Unter anderem bekennen sich die Mitglieder des Verbandes deshalb zu den europäischen Grundwerten und verpflichten sich zur Einhaltung der im KI Gütesiegel des Verbandes definierten ethischen Standards.

 

„Es ist an der Zeit, dass wir damit aufhören, Menschen und Maschinen als Rivalen zu betrachten.“

Welchen Stellenwert hat Künstliche Intelligenz „Made in Germany“ oder „Made in Berlin“? Wird genug getan, um nicht den Anschluss an die USA und China zu verlieren? Wie kann eine Zukunft aussehen, in der Mensch und Maschine koexistieren? Jemand, den solche Fragen umtreiben, ist Andreas Klug. Der ausgewiesene Experte für digitalen Wandel leitet den Arbeitskreis „Artificial Intelligence“ im IKT-Branchenverband Bitkom und ist CMO der ITyX AG, die intelligente Automatisierung in Service und Backoffice für namenhafte Unternehmen entwickelt hat. Ein Beitrag in „KI Berlin“. … mehr …

 

Freiheit und Würde im Angesicht der KI: Wozu Alexa & Co. bald fähig sein werden

Die Künstliche Intelligenz beeinflusst unsere Freiheit, unsere Würde und unser Wissen, schreibt Sarah Spiekermann, KI-Professorin aus Wien. Besonders drastisch sei das in einem Haushalt mit Sprachassistenten zu spüren. Wozu diese bald in der Lage sein könnten, zeigt ein Patent. Ein Beitrag in „Focus“… mehr …

 

 

Studien der Woche: Ethik wird zum Wettbewerbsfaktor

Die Mehrheit der Deutschen (63 Prozent) würde bei Produkten auf bestimmte Funktionen verzichten, wenn das für die Einhaltung ethischer Standards notwendig wäre. Das geht aus den Ergebnissen der Studie „Künstliche Intelligenz, Smart Home, vernetzte Gesundheit – Ethik in der Digitalen Wirtschaft“ von Kantar TNS für den Bundesverband Digitale Wirtschaft (BVDW) hervor. Das berichtet die „Absatzwirtschaft“. … mehr …