Now showing 1 - 10 of 23
  • Publication
    Developing trustworthy AI applications with foundation models
    ( 2024-04) ;
    Schmidt, Sebastian
    ;
    Müller, Felix Benjamin
    ;
    Görge, Rebekka
    ;
    ; ; ; ; ;
    Kern, Carmen
    ;
    Loh, Silke
    The trustworthiness of AI applications has been the subject of recent research and is also addressed in the EU's recently adopted AI Regulation. The currently emerging foundation models in the field of text, speech and image processing offer completely new possibilities for developing AI applications. This whitepaper shows how the trustworthiness of an AI application developed with foundation models can be evaluated and ensured. For this purpose, the application-specific, risk-based approach for testing and ensuring the trustworthiness of AI applications, as developed in the "AI Assessment Catalog - Guideline for Trustworthy Artificial Intelligence" by Fraunhofer IAIS, is transferred to the context of foundation models. Special consideration is given to the fact that specific risks of foundation models can have an impact on the AI application and must also be taken into account when checking trustworthiness.
  • Publication
    Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln
    ( 2024-01-22) ;
    Schmidt, Sebastian
    ;
    Müller, Felix Benjamin
    ;
    Görge, Rebekka
    ;
    ; ; ; ;
    Die weltweit erste, umfassende Regulierung von Künstlicher Intelligenz ist die europäische KI-Verordnung (AI Act), die zum Zeitpunkt der Veröffentlichung des Whitepapers kurz vor der formellen Verabschiedung steht und eine KI-Konformitätsbewertung von Hochrisikosystemen fordert. Vor diesem Hintergrund zeigt das Whitepaper auf, wie die Vertrauenswürdigkeit einer mit Foundation-Modellen entwickelten KI-Anwendung bewertet und sichergestellt werden kann. Dafür wird die Vorgehensweise, wie sie im »KI-Prüfkatalog zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz« des Fraunhofer IAIS entwickelt worden ist, in den Kontext von Foundation-Modellen übertragen. Dabei wird besonders berücksichtigt, dass sich spezielle Risiken der Foundation-Modelle auf die KI-Anwendung auswirken können und zusätzlich bei der Prüfung der Vertrauenswürdigkeit beachtet werden müssen.
  • Publication
    KI-Engineering in der Produktion
    Um Methoden der künstlichen Intelligenz (KI) in IT-Systemen der industriellen Produktion nachhaltig und operativ einzusetzen, bedarf es der Methodik des KI-Engineering. KI-Engineering adressiert die systematische Entwicklung und den Betrieb von KI-basierten Lösungen als Teil von Systemen, die komplexe Aufgaben erfüllen. Ziel ist es, das Innovations- und Optimierungspotenzial von KI-Verfahren in der industriellen Produktion nutzen zu können. Die Studie spannt die Dimensionen für KI-Engineering-Anwendungen auf, umreißt die qualitativen Anforderungen in der Entwicklung und im Betrieb unter dem Blickwinkel des Anwenders und Entscheiders. Verschiedene Anwendungsfälle werden in vier Autonomiestufen eingeordnet: von KI-basierten Assistenzfunktionen bis hin zu autonomen und adaptiven Systemen. Zudem werden passende Lösungsmethoden aufgezeigt. Ein Kapitel widmet sich den technischen und organisatorischen Schulden beim Einsatz von KI-Methoden. Hierin wird als Antwort das KI-Engineering-Vorgehensmodell PAISE® im Kontext bestehender Modelle aus dem Data Mining und dem Software-Engineering erläutert. Im Anschluss werden relevante Initiativen und Projekte beschrieben und anstehende Entwicklungen umrissen.
  • Publication
    Big Data 2.0 - mit synthetischen Daten KI-Systeme stärken
    Bei der Anwendung von Künstlicher Intelligenz (KI) sind fehlende Daten immer noch eine Kernherausforderung und die Kosten zur Beschaffung ein kritischer Faktor für die Wirtschaftlichkeit vieler Geschäftsmodelle. Synthetische, also künstlich generierte Daten bilden einen Ausweg. Ein vielversprechender Lösungsansatz besteht darin, für die Datensynthese selbst ein KI-Modell einzusetzen.
  • Publication
    Extracting Movement-based Topics for Analysis of Space Use
    ( 2023)
    Andriyenko, Gennadiy
    ;
    Andriyenko, Nathaliya
    ;
    We present a novel approach to analyze spatio-temporal movement patterns using topic modeling. Our approach represents trajectories as sequences of place visits and moves, applies topic modeling separately to each collection of sequences, and synthesizes results. This supports the identification of dominant topics for both place visits and moves, the exploration of spatial and temporal patterns of movement, enabling understanding of space use. The approach is applied to two real-world data sets of car movements in Milan and UK road traffic, demonstrating the ability to uncover meaningful patterns and insights.
  • Publication
    The why and how of trustworthy AI
    Artificial intelligence is increasingly penetrating industrial applications as well as areas that affect our daily lives. As a consequence, there is a need for criteria to validate whether the quality of AI applications is sufficient for their intended use. Both in the academic community and societal debate, an agreement has emerged under the term “trustworthiness” as the set of essential quality requirements that should be placed on an AI application. At the same time, the question of how these quality requirements can be operationalized is to a large extent still open. In this paper, we consider trustworthy AI from two perspectives: the product and organizational perspective. For the former, we present an AI-specific risk analysis and outline how verifiable arguments for the trustworthiness of an AI application can be developed. For the second perspective, we explore how an AI management system can be employed to assure the trustworthiness of an organization with respect to its handling of AI. Finally, we argue that in order to achieve AI trustworthiness, coordinated measures from both product and organizational perspectives are required.
  • Publication
    Moderne Sprachtechnologien
    (Fraunhofer IAIS, 2021-08)
    Temath, Christian
    ;
    ;
    Jovy-Klein, Florian
    ;
    Lange, Mirco
    ;
    ; ; ; ; ;
    Sprachschnittstellen sind auf dem Vormarsch und verdrängen zunehmend die Tastatur: im Smartphone, im Auto, zu Hause und in den Betrieben zur Steuerung von technischen Geräten. Immer neue Sprachtechnologien werden vorgestellt, die Geschwindigkeit der Entwicklung ist dabei atemberaubend. Selbst das Schreiben eigener Texte durch KI ist schon möglich und die Forschung arbeitet an der Erzeugung von Bildern aus Texten. Mit dieser Studie möchten wir Ihnen einen Einblick in das spannende Feld der Sprachtechnologien geben, ihre zentralen Funktionsweisen erklären und Einsatzchancen insbesondere durch konkrete Anwendungsfälle und Lösungen aufzeigen.
  • Publication
    Trustworthy Use of Artificial Intelligence
    ( 2019-07)
    Cremers, Armin B.
    ;
    Englander, Alex
    ;
    Gabriel, Markus
    ;
    ; ; ; ;
    Rostalski, Frauke
    ;
    Sicking, Joachim
    ;
    Volmer, Julia
    ;
    Voosholz, Jan
    ;
    ;
    This publication forms a basis for the interdisciplinary development of a certification system for artificial intelligence. In view of the rapid development of artificial intelligence with disruptive and lasting consequences for the economy, society, and everyday life, it highlights the resulting challenges that can be tackled only through interdisciplinary dialog between IT, law, philosophy, and ethics. As a result of this interdisciplinary exchange, it also defines six AI-specific audit areas for trustworthy use of artificial intelligence. They comprise fairness, transparency, autonomy and control, data protection as well as security and reliability while addressing ethical and legal requirements. The latter are further substantiated with the aim of operationalizability.