Now showing 1 - 3 of 3
  • Publication
    Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln
    ( 2024-01-22) ;
    Schmidt, Sebastian
    ;
    Müller, Felix Benjamin
    ;
    Görge, Rebekka
    ;
    ; ; ; ;
    Die weltweit erste, umfassende Regulierung von Künstlicher Intelligenz ist die europäische KI-Verordnung (AI Act), die zum Zeitpunkt der Veröffentlichung des Whitepapers kurz vor der formellen Verabschiedung steht und eine KI-Konformitätsbewertung von Hochrisikosystemen fordert. Vor diesem Hintergrund zeigt das Whitepaper auf, wie die Vertrauenswürdigkeit einer mit Foundation-Modellen entwickelten KI-Anwendung bewertet und sichergestellt werden kann. Dafür wird die Vorgehensweise, wie sie im »KI-Prüfkatalog zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz« des Fraunhofer IAIS entwickelt worden ist, in den Kontext von Foundation-Modellen übertragen. Dabei wird besonders berücksichtigt, dass sich spezielle Risiken der Foundation-Modelle auf die KI-Anwendung auswirken können und zusätzlich bei der Prüfung der Vertrauenswürdigkeit beachtet werden müssen.
  • Publication
    KI-Engineering in der Produktion
    Um Methoden der künstlichen Intelligenz (KI) in IT-Systemen der industriellen Produktion nachhaltig und operativ einzusetzen, bedarf es der Methodik des KI-Engineering. KI-Engineering adressiert die systematische Entwicklung und den Betrieb von KI-basierten Lösungen als Teil von Systemen, die komplexe Aufgaben erfüllen. Ziel ist es, das Innovations- und Optimierungspotenzial von KI-Verfahren in der industriellen Produktion nutzen zu können. Die Studie spannt die Dimensionen für KI-Engineering-Anwendungen auf, umreißt die qualitativen Anforderungen in der Entwicklung und im Betrieb unter dem Blickwinkel des Anwenders und Entscheiders. Verschiedene Anwendungsfälle werden in vier Autonomiestufen eingeordnet: von KI-basierten Assistenzfunktionen bis hin zu autonomen und adaptiven Systemen. Zudem werden passende Lösungsmethoden aufgezeigt. Ein Kapitel widmet sich den technischen und organisatorischen Schulden beim Einsatz von KI-Methoden. Hierin wird als Antwort das KI-Engineering-Vorgehensmodell PAISE® im Kontext bestehender Modelle aus dem Data Mining und dem Software-Engineering erläutert. Im Anschluss werden relevante Initiativen und Projekte beschrieben und anstehende Entwicklungen umrissen.
  • Publication
    Trustworthy Use of Artificial Intelligence
    ( 2019-07)
    Cremers, Armin B.
    ;
    Englander, Alex
    ;
    Gabriel, Markus
    ;
    ; ; ; ;
    Rostalski, Frauke
    ;
    Sicking, Joachim
    ;
    Volmer, Julia
    ;
    Voosholz, Jan
    ;
    ;
    This publication forms a basis for the interdisciplinary development of a certification system for artificial intelligence. In view of the rapid development of artificial intelligence with disruptive and lasting consequences for the economy, society, and everyday life, it highlights the resulting challenges that can be tackled only through interdisciplinary dialog between IT, law, philosophy, and ethics. As a result of this interdisciplinary exchange, it also defines six AI-specific audit areas for trustworthy use of artificial intelligence. They comprise fairness, transparency, autonomy and control, data protection as well as security and reliability while addressing ethical and legal requirements. The latter are further substantiated with the aim of operationalizability.