Bitte unterstützen Sie die Öffentlichkeitsarbeit des Ministeriums: Wir benötigen Ihre Einwilligung, um Ihre Nutzeraktivität auf unserer Webseite mit Hilfe des Dienstes etracker messen zu können. Die pseudonymisierten Auswertungen dieser Software helfen uns, unsere Webseite zu verbessern. Sie können Ihre Einwilligung jederzeit für die Zukunft widerrufen. Wenn Sie Ihre Auswahl getroffen haben, wird oben rechts ein Schieberegler sichtbar. Diesen können Sie von nun an dazu verwenden, um die statistische Auswertung zu stoppen. Durch eine Betätigung in der anderen Richtung können Sie das Tracking wieder aktivieren.
Wie funktioniert etracker? Ein Skript auf unserer Webseite löst eine http-Anfrage aus, die automatisch Ihre IP-Adresse und den sog. User Agent an die etracker GmbH weiterleitet. Hier wird zunächst Ihre IP-Adresse automatisch gekürzt. Anschließend pseudonymisiert die Software die übermittelten Daten ausschließlich zu dem Zweck, Mehrfachnutzungen in der Sitzung feststellen zu können. Nach Ablauf von 7 Tagen wird jede Zuordnung zur Sitzung gelöscht, und Ihre statistischen Daten liegen gänzlich anonymisiert vor.
Etracker ist ein deutsches Unternehmen, und verarbeitet Ihre Daten aussschließlich in unserem Auftrag auf geschützten Servern. An weitere Dritte werden sie nicht übermittelt.
Verantwortlich für diese Verarbeitung Ihrer Daten ist das Bundesministerium für Wirtschaft und Klimaschutz. Unsere Datenschutzbeauftragte erreichen Sie unter datenschutzbeauftragte@bmwk.bund.de.
Als Rechtsgrundlage dient uns Ihre Einwilligung nach § 25 Abs. 1 TTDSG i. V. m. Artikel 6 Abs. 1 lit. a) DSGVO und § 3 Abs. 1 EGovG. Wir haben sichergestellt, dass Sie Ihre Einwilligung jederzeit ohne nachteilige Folgen widerrufen können und möchten Ihnen volle Kontrolle über das Tracking auf unserer Webseite geben.
Ausführliche Informationene über Ihre Betroffenenrechte und darüber, wie wir Ihre Privatsphäre schützen, entnehmen Sie bitte unserer Datenschutzerklärung.
Ethische Leitlinien für Künstliche Intelligenz
Neue KI-Methoden für Smart-Living-Anwendungen: Das BMWK-geförderte Projekt "Foresight" rückt bei der Entwicklung den Menschen in den Fokus
Einleitung
Schon bald könnte jeder von uns in einem Haus oder einer Wohnung mit KI-basiertem, elektronischem Pförtner leben. Dieser Pförtner lässt Handwerks-, Liefer- und Postdienste ein, wenn wir nicht zu Hause sind. Er achtet darauf, dass nur die Räume betreten werden, die wir etwa für Handwerker freigegeben haben. Auch Anweisungen gibt der Pförtner weiter und nimmt umgekehrt Nachrichten für uns entgegen. So wünschenswert solch ein intelligenter Pförtner für viele von uns wäre, wirft er doch auch Fragen auf.
In Kürze Wie kann gewährleistet werden, dass das System nicht missbraucht wird oder die Technik „eigensinnig“ entscheidet?
Wie kann sichergestellt werden, dass das System nicht missbraucht wird und sich jemand unbefugt Zutritt verschafft? Wo und wie werden die Daten gespeichert, die zur Ausführung dieses smarten Dienstes verarbeitet werden? Entscheidet wirklich immer der Mensch, wer ins Gebäude darf, oder besteht die Gefahr, dass die programmierte handelnde Technik auch „eigensinnig“ und ohne Rücksicht auf Menschen entscheidet und womöglich diskriminiert? Wie weit darf eine KI-Unterstützung gehen, ehe sie zur Bevormundung wird?
Der Mensch im Mittelpunkt der Technik-Entwicklung hin zu „Smart Living“
Das vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) im Rahmen des KI-Innovationswettbewerbs geförderte Projekt ForeSight bezieht diese und weitere ethische Fragestellungen in die Entwicklung, Erprobung und Anwendung von Smart-Living-Services mit ein. Der Begriff Smart Living umfasst dabei alle smarten Dienste im Gebäudesektor. Sie reichen vom smarten Energiemanagement für den effizienten Betrieb von Heizung, Kühlung und Lüftung über smarte Gebäudebewirtschaftung für die automatisierte Überwachung und Bewertung von Wartungs- und Betriebsaufgaben bis hin zu smarten Assistenzangeboten, z. B. für altersgerechtes Wohnen. Das Projekt entwickelt eine Plattform und führt dort die wesentlichen Akteure des Themenfelds zusammen: Wohnungswirtschaft, Elektroindustrie, Digitalwirtschaft, Technologieanbieter für Gebäude, Verbände, Wissenschaft und Handwerk. Ziel ist es, zukunftsweisende Möglichkeiten für einen wirtschaftlichen Betrieb am Gebäude auf Basis der Künstlichen Intelligenz (KI) aufzuzeigen.
Ethik-Kodex für vertrauenswürdige KI
Smart-Living-Technologien bieten nicht nur mehr Komfort, sie schützen auch das Klima durch Steigerung der Energieeffizienz von Gebäuden. Damit ein solcher Vorteil auch zum Einsatz kommt, müssen Smart-Living-Anwendungen von den Menschen im Alltag akzeptiert werden und vertrauenswürdig sein. Menschen sollten die Vorteile und auch mögliche Risiken richtig einschätzen können. Das gelingt dann am besten, wenn schon im frühen Stadium der Entwicklung von Smart-Service-Diensten die Bedürfnisse der Menschen einbezogen werden.
ForeSight hat einen Ethik-Kodex entwickelt, der die Menschen in den Mittelpunkt der Technikentwicklung stellt. Der Kodex beruht zum einen auf den „Ethik-Leitlinien für eine vertrauenswürdige KI“, die die Europäischen Kommission in Auftrag gegeben hat, zum anderen auf den „Algo. Rules“, einem Praxisleitfaden der Bertelsmann- Stiftung. Den Regelwerken ist gemeinsam, dass sie auf ethische Grundsätze zielen, die von KI-Systemen eingehalten werden müssen: Achtung der menschlichen Autonomie, Schadensverhütung sowie Fairness und Erklärbarkeit. Der Kodex von ForeSight gibt Entwickelnden sieben Kern-Indikatoren vor, die bei Smart Living zu überprüfen sind.
Sieben ethische Indikatoren für KI
1. Vorrang menschlichen Handelns und menschlicher Aufsicht
Die Technik darf nie das Sagen haben. Eine Bevormundung des Menschen durch KI muss ausgeschlossen sein. Aus diesem Indikator ergibt sich zugleich, dass Künstliche Intelligenz auch nicht von sich aus ethisch sein kann. Einen wie auch immer gearteten „Ethik-Algorithmus“, der errechnet, was ethisch und was unethisch ist, kann es daher nicht geben. Ethisches Verhalten ist zwischen Menschen zu verhandeln und kann nicht von „der Maschine“ vorgegeben werden.
In Kürze Mensch vor Maschine: Eine Bevormundung durch Künstliche Intelligenz (KI) ist auf jeden Fall zu vermeiden.
2. Technische Robustheit und Sicherheit
KI muss verlässlich sein und vor Schaden behüten. Der intelligente Pförtner muss beispielsweise sicher identifizieren können, wer ins Gebäude darf und wer nicht.
3. Schutz der Privatsphäre und Datenqualitätsmanagement
Datenschutz und Persönlichkeitsrechte sind zu wahren. Die Daten sind auch auf ihre Integrität zu überprüfen, etwa ob sie dazu verwendet werden, unrechtmäßig oder unfair zu diskriminieren.
4. Transparenz und Erklärbarkeit
Daten und Prozesse von KI müssen rückverfolgbar und erklärbar sein. Die Transparenz bedeutet, dass bei Eingabe gleicher Daten und gleicher KI-Algorithmen in ein System am Schluss auch immer das gleiche Ergebnis produziert wird. Damit lassen sich Ergebnisse konsistent nachvollziehen und können Nutzerinnen und Nutzern erklärt werden.
5. Vielfalt, Nichtdiskriminierung und Fairness
Alle betroffenen Interessenvertreter sind zu berücksichtigen und einzubeziehen. Kein Mensch darf aufgrund seines kulturellen, religiösen oder geschlechtlichen Hintergrundes benachteiligt werden. Der Zugang zur Nutzung der Dienste muss gleichberechtigt und diskriminierungsfrei sein.
6. Gesellschaftliches und ökologisches Wohlergehen
Es gilt zu überprüfen, welche Auswirkung KI-Systeme auf Gesellschaft und Umwelt haben.
Der „intelligente Pförtner“ prüft, wer ins Gebäude darf und wer nicht.
7. Rechenschaftspflicht
Damit die Fairness von KI-Systemen gewährleistet wird, muss geklärt sein, wer für KI-Systeme und deren Ergebnisse verantwortlich ist und rechtlich zur Rechenschaft gezogen werden kann.
Aus diesen Indikatoren ergibt sich für den Bereich Smart Living zudem, dass Menschen bei der Nutzung smarter Dienste im Wohn- und Arbeitsbereich nicht eingeschränkt werden dürfen. Daher sind immer auch Alternativen anzubieten. Es darf beispielsweise auch keinen Zwang zur Nutzung eines intelligenten Pförtners geben. Die ethischen Leitlinien werden auf alle künftigen Projekte im Rahmen von ForeSight angewendet und sollen kontinuierlich weiterentwickelt werden.