Human AI – auf dem Weg zu einer menschenzentrierten KI

Die wachsende Verbreitung von KI fordert uns heraus, über das technisch Machbare hinauszudenken und KI-Innovationen ethisch und menschzentriert zu entwickeln. Die Kompetenzsäule HUMAN AI des ADA Lovelace Center nimmt sich dieser Herausforderung an. Sie konzentriert sich auf die Entwicklung und Anwendung von KI Technologien, die den Menschen in den Mittelpunkt stellen. Unser Ziel ist es, umfassende Richtlinien und Empfehlungen zu entwickeln, um KI Systeme zu gestalten und zu implementieren, die sowohl individuellen als auch gesellschaftliche Anforderungen gerecht werden.

Herausforderung bei der Enwticklung von KI-Systemen

KI-Systeme, die ohne menschliche Perspektive entwickelt werden, können ineffektiv sein und negative Auswirkungen auf Individuen und Gesellschaften haben. Im Hinblick auf die Privatsphäre geht es beispielsweise um einen ausreichenden Schutz von KI-Systemen, damit persönliche Daten nicht missbraucht werden. Auch können KI-Systeme die individuelle Autonomie beeinträchtigen, indem sie Entscheidungen treffen, die die Handlungsfreiheit der Menschen einschränken oder ihnen Optionen vorenthalten. Gerechtigkeit ist eine weitere Herausforderung für KI-Algorithmen, denn hierbei kann es zu Vorurteilen oder Diskriminierung kommen, indem bestimmte Gruppen benachteiligt oder bestehende Ungleichheiten durch die KI verstärkt werden. KI-Systeme, die nicht inklusiv gestaltet sind, können bestimmte Bevölkerungsgruppen ausschließen oder benachteiligen, indem sie ihre Bedürfnisse oder Perspektiven nicht angemessen berücksichtigen.

Wichtige Aspekte der menschzentrierten KI

Daher gilt es Fragen der Privatsphäre, der Autonomie, der Gerechtigkeit und der Inklusion sorgfältig abzuwägen, um sicherzustellen, dass KI Technologien das menschliche Wohlbefinden fördern und nicht untergraben. Um diese wichtigen Aspekte bei technischen Entwicklungsprozessen zu berücksichtigen, ist es wichtig, die Interaktion zwischen Menschen und KI besser zu verstehen. Für uns sind dabei zwei Fragen von zentraler Bedeutung:

1. Unter welchen Bedingungen können Menschen KI in ihren Arbeits- und Lebenskontext integrieren und einsetzen? 
   Neben körperlichen, sensorischen und kognitiven Fähigkeiten, die mit der Akzeptanz und Nutzung technischer Innovationen assoziiert sind, untersuchen wir auch die Rolle psychologischer Einflussfaktoren. Im Mittelpunkt stehen Einstellungen, Motivation und Emotionen, die entscheidend beeinflussen, wie neue Technologien angenommen und eingesetzt werden.
2. Welche Auswirkungen hat die Nutzung von KI auf individueller und organisationaler Ebene?
   In Bezug auf den Menschen sind unter anderem Auswirkungen auf Tätigkeiten, Kompetenzen und das persönliche Wohlbefinden von Bedeutung. Auf organisationaler Ebene analysieren wir die Auswirkungen auf die Effizienz, das Innovationspotenzial und die Wettbewerbsfähigkeit von Unternehmen. 

Interdisziplinäre Zusammenarbeit und ethische Prinzipien

Das Wissen um Bedürfnisse, Erwartungen und Auswirkungen der Nutzung und Implementierung von KI ist entscheidend für die Entwicklung menschzentrierter KI-Systeme. Durch unsere Forschung erstellen wir Richtlinien für iterative Entwicklungsprozesse, die den Menschen in den Vordergrund stellen. Dabei ist es unerlässlich, ethische Aspekte wie Zugänglichkeit, Nachhaltigkeit und kulturelle Sensibilität zu berücksichtigen, die sich einer direkten Beobachtung menschlicher Interaktionen entziehen können. Dieser Ansatz erfordert interdisziplinäre Zusammenarbeit und einen kontinuierlichen Dialog zwischen Entwicklern, Anwendern und Experten aus verschiedenen Disziplinen wie Ethik, Psychologie und Soziologie. Nur so können KI Systeme geschaffen werden, die technologisch fortschrittlich und gleichzeitig sozial verantwortungsvoll sind.

Die Rolle von HUMAN AI im ADA Lovelace Center

HUMAN AI ist als Querschnittsthema an alle anderen Applikationen und Kompetenzsäulen des ADA Lovelace Centers anschlussfähig. Unsere methodische Vielfalt und unsere interdisziplinäre Zusammensetzung bilden die Grundlage für eine erfolgreiche Entwicklung von KI-Systemen, die ethische Prinzipien berücksichtigen und eine hohe Akzeptanz erfahren.