Schlagwort-Archiv: Künstliche Intelligenz

Glanz oder Elend der Zukunft – wohin führt uns KI?

Wer Fragen über die Zukunft stellt, bekommt schon seit jeher zwei Arten von Antworten: verklärende, utopische einerseits und verstörende, dystopische anderereits. Gerade das Thema „Künstliche Intelligenz“ (KI) bietet besonders viel Stoff für Überlegungen beider Art. Einen sachlich fundierten Überblick versprach das Stuttgarter Zukunftssymposium 2019. Es widmete sich konsequent der Frage, wohin unsere Reise mit der KI gehen wird oder wohin sie gehen sollte. Im Fokus stand dabei die Arbeitswelt, in der die Menschen derzeit wohl die konkretesten Auswirkungen von KI für sich erwarten. Ein Beitrag im „Humanistischen Pressedienst“. … mehr

 

Vatikan plant Ethikmanifest zu künstlicher Intelligenz

Der Vatikan will die großen Technologiekonzerne für eine ethische Selbstverpflichtung bei künstlicher Intelligenz gewinnen. Ein entsprechender Aufruf soll von Microsoft-Präsident Brad Smith und IBM-Vizepräsident John E. Kelly unterzeichnet werden. Dies soll im Rahmen einer Tagung der Päpstlichen Akademie für das Leben vom 26. bis 28. Februar stattfinden. Ein Beitrag auf „ORF.at“. … mehr

 

Algorithmen und Ethik – wo wird das hinführen?

In einem Experiment wurde herausgefunden, dass rechtskonservative Personen deutlich mehr gleichgesinnte Inhalte von Algorithmen vorgeschlagen bekommen als linksliberale: Die Medien- und Kommunikationsethik hat seit einiger Zeit ein neues und wichtiges Betätigungsfeld: Algorithmen-gesteuerte Plattformökonomie und politische Entscheidungen, wie sie sich einerseits an neuen Geschäftsmodellen großer Unternehmen wie Alphabet/Google (Beispiel: Empfehlungssystem des Video-Streaming-Dienstes Youtube), andererseits an algorithmischen Unterstützungsprozessen bei Zuteilungsfragen (Beispiel: AMS-Algorithmus zur Zuteilung der Arbeitslosenförderung anhand bestimmter Kategorien Arbeitssuchender, oder Social-Credit-System in China) zeigen. Ein Beitrag im „DerStandard“. … mehr

 

 

 

 

 

Künstliche Intelligenz und Ethik: Dark Patterns, Bias und Diskriminierung

In seiner Keynote auf der ML Conference 2019 setzte sich Eric Reiss für eine ethische Anwendung von KI ein. Entwickler verfügten über eine unglaubliche Macht, die Zukunft mitzugestalten. Unschuldige Entscheidungen könnten sich dazu weiterentwickeln, Rassismus oder Geschlechterdiskriminierung zu fördern. Ein Beitrag im „Entwickler“. … mehr

 

Bosch: Ab 2025 alle Produkte mit künstlicher Intelligenz

„Bis Mitte der nächsten Dekade soll jedes unserer Produkte über künstliche Intelligenz verfügen, mit ihr entwickelt oder produziert worden sein“, stellte Nordamerika-Chef Mike Mansuetti am Montag auf der Technik-Messe CES in Las Vegas in Aussicht. Im Fokus steht den Angaben zufolge vor allem die industrielle Anwendung, also zum Beispiel in Produktionsanlagen, ist auf „Web.de“ zu lesen. … mehr

 

Influencer Marketing: Der Ethik-Kodex und seine traurige Notwendigkeit

Im Influencer Marketing braucht es offenbar Regeln, an die sich Influencer, Unternehmen und Agenturen halten können. Deshalb hat der Bundesverband Influencer Marketing (BVIM) nun einen Ethik-Kodex für angemessenes Verhalten herausgebracht – das eigentlich selbstverständlich sein sollte. Ein Kommentar auf „Basicthinking“. … mehr

 

Achtung vor dem rassistischen digitalen Mitarbeiter – KI und Vorurteile

Künstliche Intelligenz hat sich schnell zur zukunftsweisenden Technologie unserer Gesellschaft entwickelt. Gartner prognostiziert, dass KI weltweit bis 2020 für mehr als 30% der CIOs einer der fünf Investitionsschwerpunkte sein wird. Selbst Deutschland hat eine Digital-Strategie zur Künstlichen Intelligenz vorgestellt und will aktuell 500 Millionen Euro in Forschung und Entwicklung für KI investieren. Obwohl viele Argumente für die Akzeptanz und Einführung von KI – sowohl für Unternehmen als auch für Verbraucher – sprechen, gibt es immer noch berechtigte Bedenken. Ein Beitrag in „morethandigital“. … mehr

 

KI-Experte zu Facebooks Algorithmen: „Künstliche Intelligenz ist ein sehr mächtiges Werkzeug“

Immer mehr Verstöße gegen Facebooks Richtlinien würden mithilfe künstlicher Intelligenz aufgedeckt, sagte Joaquin Quiñonero Candela, Leiter der KI-Entwicklung bei Facebook, im Dlf. Schädliche Inhalte allein durch menschliche Gutachter aus dem Verkehr zu ziehen, wäre unmöglich. Ein Beitrag in „Deutschlandfunk“. … mehr

 

Kann künstliche Intelligenz ethisch sein? KIT-Professorin gibt Ausblick in digitale Zukunft

Es ist eine große Herausforderung für die Menschheit, Ethik und Künstliche Intelligenz zu verknüpfen. Das Karlsruher Institut für Technologie veranstaltet zu dem Thema am 28. November eine Vortrags- und Diskussionsrunde unter dem Titel: „Algorithm rules – Wie kommt Ethik in KI?“ Ein Beitrag in „Badische Nachrichten“. … mehr ….

 

 

Leitlinien für den verantwortungsvollen Umgang mit Algorithmen

StrommastenDie Initiative D21 hat neun Leitlinien zum Monitoring von algorithmischen Systemen veröffentlicht. Diese wurden in Berlin vorgestellt und ihre Praxistauglichkeit mit Vertreterinnen der Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“, der High-Level Expert Group on Artificial Intelligence (AI HLEG) sowie der Datenethikkommission diskutiert.

„Viele Anwendungen und Dienste des Alltags und der beruflichen Praxis beruhen heute auf algorithmischen Systemen. Sie helfen, indem sie z. B. aus großen Datenmengen Erkenntnisse ziehen und Informationen in Millisekunden verarbeiten oder Prozesse automatisieren“, erklärt Hannes Schwaderer, Präsident der Initiative D21, und meint weiter, um sie verantwortungsvoll einzusetzen und faire Ergebnisse zu erzielen, seien im Vorfeld bestimmte Überlegungen anzustellen. Die Leitlinien dienen als Orientierung, wichtige Fragen nach der Verantwortlichkeit und Kontrolle, der Nichtdiskriminierung, der Transparenz und Nachvollziehbarkeit sowie der Nachhaltigkeit zu berücksichtigen.

Interdisziplinäre und multiperspektivische Betrachtung relevanter Fragestellungen

Dr. Irina Eckardt, Vorständin Initiative D21 und KPMG, hat die Arbeit zum Algorithmen-Monitoring geleitet. Sie stellt fest: „Beim Planen, Prüfen und Kontrollieren geht es längst nicht mehr nur um die Algorithmen, sondern auch um Daten und um Personen, die entscheiden, erstellen, prüfen und nutzen. All das zusammengenommen bildet ein komplexes System – ein algorithmisches System“. Sie schlussfolgert: „Diese Komplexität stellt uns vor neue Herausforderungen, bei denen wir durch die aus der Unterarbeitsgruppe (UAG) Algorithmen-Monitoring entstandenen Denkimpulse und Leitlinien besseres Verständnis bieten“.

Expertinnen und Experten aus Wissenschaft, Wirtschaft, Verwaltung und Zivilgesellschaft haben knapp zwei Jahre in der UAG Algorithmen-Monitoring zusammengearbeitet und relevante Fragestellungen diskutiert. Beachtet wurden dabei vor allem ethisch-rechtliche, sozioökonomische sowie technologische Perspektiven.

Die Ergebnisse wurden in drei Veröffentlichungen zu den Themen „Bias in algorithmischen Systemen“, „Transparenz und Nachvollziehbarkeit algorithmischer Systeme“ und „Verantwortung für algorithmische Systeme“ festgehalten und über die Projektlaufzeit der UAG kontinuierlich weiterentwickelt. Sie bilden die Basis für die neun Leitlinien:

  1. Verantwortlichkeiten verteilen und verorten: Verantwortlichkeiten müssen zwischen den beteiligten Akteurinnen und Akteuren aufgeteilt werden, so dass Verantwortliche vor allem für Nutzende und Betroffene eindeutig identifiziert werden können.
  2. Bias erkennen und bewerten: Durch die deutlichere Konfrontation mit bisher verborgenen subjektiven Wertungen müssen diese sogenannten Bias überprüft und der Umgang mit ihnen gestaltet werden.
  3. Transparenz ermöglichen: Transparenz ist eine notwendige Grundlage für Prüfbarkeit, ihre Umsetzung in algorithmischen Systemen muss spezifisch an die Nutzungsgruppen angepasst werden.
  4. Nachvollziehbarkeit gewährleisten: Algorithmische Systeme müssen von Anfang an so gestaltet werden, dass Prozesse im Nachhinein durch kontextbezogene Informationen über das System für unterschiedliche Nutzungsgruppen nachvollziehbar sind.
  5. Bestehende Regulierungen anwenden: Das bestehende Recht muss angewendet, für eine digitale Anwendung überprüft und gegebenenfalls angepasst werden.
  6. Grundlegende Regeln definieren: Mit Mindeststandards sind algorithmische Systeme vergleichbarer und deren Einhaltung kann zu mehr Vertrauen und Akzeptanz führen.
  7. Wissen interdisziplinär austauschen: Kontinuierlicher, disziplin- und organisationsübergreifender Austausch verbessert die Qualität algorithmischer Systeme.
  8. Positiven Nutzen für Gesellschaft erzeugen: Nur eine am Gemeinwohl orientierte Entwicklung und ein nachhaltiger Einsatz algorithmischer Systeme können ethischen Anforderungen langfristig gerecht werden.
  9. Leitlinien kontinuierlich überprüfen: Die regelmäßige Beurteilung von Anpassungen rechtlicher Regelungen und deren Auswirkungen auf die Gestaltung algorithmischer Systeme müssen Bestandteil der Überprüfung sein, die Leitlinien kontinuierlich verbessert werden.

 Zum Hintergrund

Algorithmen bergen ein immenses Potenzial, insbesondere kommt ihnen eine wachsende Bedeutung bei technologischen Entwicklungen zu. Gleichzeitig entstehen eine zunehmende Komplexität und Intransparenz von algorithmischen Systemen. Dies bringt steigende Herausforderungen und verschiedene Fragestellungen mit sich. Vor diesem Hintergrund gründete die Initiative D21 Anfang 2018 eine Unterarbeitsgruppe (UAG) der AG Ethik zur Bearbeitung von Fragestellungen rund um das Thema „Algorithmen-Monitoring“.

Die UAG Algorithmen-Monitoring diskutierte relevante Fragestellungen mit interdisziplinären Expertinnen und Experten aus drei Perspektiven: technologisch, sozioökonomisch und ethisch-rechtlich. Ethisch-rechtlich wurde gefragt, welche rechtlichen Grundlagen die Regulierung algorithmischer Systeme sichert. Sozioökonomisch wurden den sozialen und ökonomischen Chancen und Herausforderungen durch die Anwendung von algorithmischen Systemen nachgegangen und Maßnahmen zur Reduktion von Risiken erarbeitet. Die technologische Perspektive bezieht sich auf die praktische Umsetzbarkeit eines Algorithmen-Monitorings und setzt sich mit deren Bedingungen, Problemen und Möglichkeiten auseinander.

Aus den Diskussionen wurden Thesen definiert und für die drei Schwerpunktthemen „Bias in algorithmischen Systemen“, „Transparenz und Nachvollziehbarkeit“ sowie „Verantwortung für algorithmische Systeme“ in Denkimpulsen veröffentlicht. Als Zusammenfassung wurden neun Leitlinien zum Algorithmen-Monitoring entwickelt. Sie beinhalten grundlegende Fragen für weitere Diskussionen und dienen als Handlungsaufforderung.

„Der Patient wird nicht digital, er bleibt analog“

Medizinethikerin Sabine Salloch sieht in der Digitalisierung des Gesundheitswesen viele Chancen – auch wenn noch technische und Datenschutzprobleme gelöst werden müssten. Telemedizin könne eine Option sein, insbesondere ältere Menschen müssten aber auch weiterhin zum Arzt gehen können, sagte sie im „Deutschlandradio“. … mehr …