Now showing 1 - 10 of 57
  • Publication
    Artificial Intelligence. What Is Behind the Technology of the Future?
    (Springer Nature, 2024-05-16) ;
    Artificial Intelligence (AI) is already present in our daily routines, and in the future, we will encounter it in almost every aspect of life - from analyzing X-rays for medical diagnosis, driving autonomous cars, maintaining complex machinery, to drafting essays on environmental problems and drawing imaginative pictures. The potentials of AI are enormous, while at the same time many myths, uncertainties and challenges circulate that need to be tackled. The English translation of the book "Künstliche Intelligenz - Was steckt hinter der Technologie der Zukunft?" originally published in German (Springer Vieweg, 2020), this book is addressed to the general public, from interested citizens to corporate executives who want to develop a better and deeper understanding of AI technologies and assess their consequences. Mathematical basics, terminology, and methods are explained in understandable language. Adaptations to different media such as images, text, and speech and the corresponding generative models are introduced. A concluding discussion of opportunities and challenges helps readers evaluate new developments, demystify them, and assess their relevance for the future.
  • Publication
    Developing trustworthy AI applications with foundation models
    ( 2024-04) ;
    Schmidt, Sebastian
    ;
    Müller, Felix Benjamin
    ;
    Görge, Rebekka
    ;
    ; ; ; ; ;
    Kern, Carmen
    ;
    Loh, Silke
    The trustworthiness of AI applications has been the subject of recent research and is also addressed in the EU's recently adopted AI Regulation. The currently emerging foundation models in the field of text, speech and image processing offer completely new possibilities for developing AI applications. This whitepaper shows how the trustworthiness of an AI application developed with foundation models can be evaluated and ensured. For this purpose, the application-specific, risk-based approach for testing and ensuring the trustworthiness of AI applications, as developed in the "AI Assessment Catalog - Guideline for Trustworthy Artificial Intelligence" by Fraunhofer IAIS, is transferred to the context of foundation models. Special consideration is given to the fact that specific risks of foundation models can have an impact on the AI application and must also be taken into account when checking trustworthiness.
  • Publication
    Kreativität der generativen KI
    In diesem Beitrag wird die Frage diskutiert, ob auch Systeme der generativen KI kreative Inhalte erzeugen können. Es wird zunächst beschrieben, wie solche Systeme intern funktionieren und wie sie potenziell neue Inhalte generieren können. Anschließend wird der kreative Prozess diskutiert und es wird überprüft, ob KI-Systeme kreative Leistungen für die unterschiedlichen Medien Text, Bild und Musik erbringen können. In standardisierten Tests konnte gezeigt werden, dass das Sprachmodell GPT-4 inzwischen kreativere Antworten produziert als Menschen. Ähnliche Tests haben ergeben, dass Bilder, die mit einer älteren Version von DALL-E erstellt wurden, nur schwer von Künstlerbildern zu unterscheiden sind. Aufgrund der stark verbesserten Detailgenauigkeit neuerer Systeme ist davon auszugehen, dass diese heute eine verbesserte Kreativität besitzen. Systeme zur Generierung von Musik können derzeit dagegen noch nicht mit der Kreativität menschlicher Komponist*innen mithalten.
  • Publication
    Vertrauenswürdige KI-Anwendungen mit Foundation-Modellen entwickeln
    ( 2024-01-22) ;
    Schmidt, Sebastian
    ;
    Müller, Felix Benjamin
    ;
    Görge, Rebekka
    ;
    ; ; ; ;
    Die weltweit erste, umfassende Regulierung von Künstlicher Intelligenz ist die europäische KI-Verordnung (AI Act), die zum Zeitpunkt der Veröffentlichung des Whitepapers kurz vor der formellen Verabschiedung steht und eine KI-Konformitätsbewertung von Hochrisikosystemen fordert. Vor diesem Hintergrund zeigt das Whitepaper auf, wie die Vertrauenswürdigkeit einer mit Foundation-Modellen entwickelten KI-Anwendung bewertet und sichergestellt werden kann. Dafür wird die Vorgehensweise, wie sie im »KI-Prüfkatalog zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz« des Fraunhofer IAIS entwickelt worden ist, in den Kontext von Foundation-Modellen übertragen. Dabei wird besonders berücksichtigt, dass sich spezielle Risiken der Foundation-Modelle auf die KI-Anwendung auswirken können und zusätzlich bei der Prüfung der Vertrauenswürdigkeit beachtet werden müssen.
  • Publication
    Guideline for Designing Trustworthy Artificial Intelligence
    (Fraunhofer IAIS, 2023-02) ; ; ; ; ;
    Cremers, Armin B.
    ;
    ;
    Houben, Sebastian
    ;
    ; ;
    Sicking, Joachim
    ;
    ; ; ;
    Loh, Silke
    ;
    Stolberg, Evelyn
    ;
    Tomala, Annette Daria
    Artificial Intelligence (AI) has made impressive progress in recent years and represents a a crucial impact on the economy and society. Prominent use cases include applications in medical diagnostics,key technology that has predictive maintenance and, in the future, autonomous driving. However, it is clear that AI and business models based on it can only reach their full potential if AI applications are developed according to high quality standards and are effectively protected against new AI risks. For instance, AI bears the risk of unfair treatment of individuals when processing personal data e.g., to support credit lending or staff recruitment decisions. Serious false predictions resulting from minor disturbances in the input data are another example - for instance, when pedestrians are not detected by an autonomous vehicle due to image noise. The emergence of these new risks is closely linked to the fact that the process for developing AI applications, particularly those based on Machine Learning (ML), strongly differs from that of conventional software. This is because the behavior of AI applications is essentially learned from large volumes of data and is not predetermined by fixed programmed rules.
  • Publication
    Big Data 2.0 - mit synthetischen Daten KI-Systeme stärken
    Bei der Anwendung von Künstlicher Intelligenz (KI) sind fehlende Daten immer noch eine Kernherausforderung und die Kosten zur Beschaffung ein kritischer Faktor für die Wirtschaftlichkeit vieler Geschäftsmodelle. Synthetische, also künstlich generierte Daten bilden einen Ausweg. Ein vielversprechender Lösungsansatz besteht darin, für die Datensynthese selbst ein KI-Modell einzusetzen.
  • Publication
    KI-Engineering in der Produktion
    Um Methoden der künstlichen Intelligenz (KI) in IT-Systemen der industriellen Produktion nachhaltig und operativ einzusetzen, bedarf es der Methodik des KI-Engineering. KI-Engineering adressiert die systematische Entwicklung und den Betrieb von KI-basierten Lösungen als Teil von Systemen, die komplexe Aufgaben erfüllen. Ziel ist es, das Innovations- und Optimierungspotenzial von KI-Verfahren in der industriellen Produktion nutzen zu können. Die Studie spannt die Dimensionen für KI-Engineering-Anwendungen auf, umreißt die qualitativen Anforderungen in der Entwicklung und im Betrieb unter dem Blickwinkel des Anwenders und Entscheiders. Verschiedene Anwendungsfälle werden in vier Autonomiestufen eingeordnet: von KI-basierten Assistenzfunktionen bis hin zu autonomen und adaptiven Systemen. Zudem werden passende Lösungsmethoden aufgezeigt. Ein Kapitel widmet sich den technischen und organisatorischen Schulden beim Einsatz von KI-Methoden. Hierin wird als Antwort das KI-Engineering-Vorgehensmodell PAISE® im Kontext bestehender Modelle aus dem Data Mining und dem Software-Engineering erläutert. Im Anschluss werden relevante Initiativen und Projekte beschrieben und anstehende Entwicklungen umrissen.
  • Publication
    Extracting Movement-based Topics for Analysis of Space Use
    ( 2023)
    Andriyenko, Gennadiy
    ;
    Andriyenko, Nathaliya
    ;
    We present a novel approach to analyze spatio-temporal movement patterns using topic modeling. Our approach represents trajectories as sequences of place visits and moves, applies topic modeling separately to each collection of sequences, and synthesizes results. This supports the identification of dominant topics for both place visits and moves, the exploration of spatial and temporal patterns of movement, enabling understanding of space use. The approach is applied to two real-world data sets of car movements in Milan and UK road traffic, demonstrating the ability to uncover meaningful patterns and insights.
  • Publication
    The why and how of trustworthy AI
    Artificial intelligence is increasingly penetrating industrial applications as well as areas that affect our daily lives. As a consequence, there is a need for criteria to validate whether the quality of AI applications is sufficient for their intended use. Both in the academic community and societal debate, an agreement has emerged under the term “trustworthiness” as the set of essential quality requirements that should be placed on an AI application. At the same time, the question of how these quality requirements can be operationalized is to a large extent still open. In this paper, we consider trustworthy AI from two perspectives: the product and organizational perspective. For the former, we present an AI-specific risk analysis and outline how verifiable arguments for the trustworthiness of an AI application can be developed. For the second perspective, we explore how an AI management system can be employed to assure the trustworthiness of an organization with respect to its handling of AI. Finally, we argue that in order to achieve AI trustworthiness, coordinated measures from both product and organizational perspectives are required.
  • Publication
    Data Ecosystems: A New Dimension of Value Creation Using AI and Machine Learning
    Machine learning and artificial intelligence have become crucial factors for the competitiveness of individual companies and entire economies. Yet their successful deployment requires access to a large volume of training data often not even available to the largest corporations. The rise of trustworthy federated digital ecosystems will significantly improve data availability for all participants and thus will allow a quantum leap for the widespread adoption of artificial intelligence at all scales of companies and in all sectors of the economy. In this chapter, we will explain how AI systems are built with data science and machine learning principles and describe how this leads to AI platforms. We will detail the principles of distributed learning which represents a perfect match with the principles of distributed data ecosystems and discuss how trust, as a central value proposition of modern ecosystems, carries over to creating trustworthy AI systems.