©wal 172619/Pixabay

Erste empirische Ergebnisse zeigen: Hersteller und Prüfstellen haben überraschend ähnliche Anforderungen an ein KI-gestütztes Assistenzsystem. Vor diesem Hintergrund untersucht das Forschungsprojekt ChAmp („Cyber-humanes Arbeiten in Daten-Ökosystemen am Beispiel maschineller Softwareprüfung“), wie große Sprachmodelle und weitere KI-Verfahren dazu beitragen können, Dokumentations- und Prüfprozesse wirksam zu unterstützen. Im Mittelpunkt steht die Entwicklung eines datenschutzkonformen Assistenzsystems, das Hersteller und Prüfstellen bei der Erstellung, Analyse und Bewertung technischer Softwaredokumentationen unterstützt, ohne die Verantwortung des Menschen zu ersetzen.
Kein Marktzugang ohne Prüfung


Ohne eine erfolgreiche Prüfung der technischen Dokumentation erhalten viele elektronische Produkte keinen Marktzugang. Hersteller müssen dabei nachweisen, dass ihre Software regulatorische Anforderungen erfüllt und dies nachvollziehbar dokumentieren. Für Hersteller und Prüfstellen bedeutet dies einen hohen Aufwand: Umfangreiche Unterlagen müssen erstellt, analysiert und bewertet werden. Das Forschungsprojekt ChAmp untersucht, wie Künstliche Intelligenz diese Prozesse effizienter und transparenter gestalten kann.

Anforderungen seitens Hersteller und Prüfer
Einen wichtigen Meilenstein hat das Projekt nun mit der Auswertung von Experteninterviews erreicht. Befragt wurden Fachleute des Messgeräteherstellers Sartorius Lab Instruments GmbH & Co. KG sowie der Physikalisch-Technischen Bundesanstalt (PTB). Ziel war es, die Anforderungen an ein zukünftiges KI-gestütztes Assistenzsystem aus Hersteller- und Prüferperspektive zu erfassen.


Ähnliche Herausforderungen
Die Ergebnisse zeigen, dass beide Seiten trotz unterschiedlicher Rollen vor ähnlichen Herausforderungen stehen. Hersteller wünschen sich Unterstützung bei der Interpretation regulatorischer Anforderungen, der Bewertung technischer Lösungsansätze und der Erstellung vollständiger, konsistenter Dokumentationen.
Prüfende sehen insbesondere Potenziale bei der Analyse umfangreicher Dokumentationspakete, der intelligenten Suche nach relevanten Informationen und der nachvollziehbaren Verknüpfung von Anforderungen und Nachweisen.
„Die hohe Übereinstimmung der Anforderungen beider Akteursgruppen ist eine der wichtigsten Erkenntnisse der bisherigen Projektarbeit“, erklärt Katharina Adamczyk von der ZENIT GmbH. „Sie zeigt, dass ein gemeinsames Assistenzsystem Mehrwert schaffen kann, indem Informationen strukturiert aufbereitet, Zusammenhänge sichtbar gemacht und Wissensbestände besser erschlossen werden.“

Was macht ChAmp?
Im Mittelpunkt von ChAmp steht dabei nicht die vollständige Automatisierung von Prüfentscheidungen. Vielmehr verfolgt das Projekt einen cyber-humanen Ansatz, bei dem KI Fachkräfte bei komplexen Analyse-, Wissens- und Dokumentationsaufgaben unterstützt. Transparenz, Nachvollziehbarkeit und Quellenoffenlegung gelten dabei als zentrale Voraussetzungen. Die Verantwortung für regulatorische Entscheidungen verbleibt ausdrücklich bei den Expertinnen und Experten.

Wie geht es weiter?
Die nun vorliegenden Anforderungskataloge bilden die Grundlage für die nächste Projektphase. Aktuell wird ein prototypisches Assistenzsystem entwickelt, das auf lokalen Sprachmodellen sowie Verfahren zur semantischen Suche und Informationsverknüpfung basiert. Dabei stehen Datenschutz, Vertraulichkeit und Nachvollziehbarkeit im Mittelpunkt.
Die Erkenntnisse aus ChAmp reichen über die Softwareprüfung von Messgeräten hinaus. Vergleichbare Herausforderungen finden sich auch in Bereichen wie Produktsicherheit, Datenschutz, Nachhaltigkeitsberichterstattung, Lieferkettennachweisen oder künftigen Nachweis- und Prüfpflichten im Umfeld der europäischen KI-Regulierung. Mit den nun vorliegenden empirischen Ergebnissen ist damit ein wichtiger Grundstein für die Entwicklung transparenter und menschengerechter KI-Assistenzsysteme in regulierten Arbeitsumgebungen gelegt.
Mehr erfahren: Detaillierte Einblicke in die Untersuchungsergebnisse und die nächsten Entwicklungsschritte des Forschungsprojekts ChAmp bietet der vollständige Blogbeitrag auf der Website des Projekts: Zum Blogbeitrag „ChAmp: Erste empirische Ergebnisse schaffen die Grundlage für ein cyber-humanes Prüfassistenzsystem“
.
 
Förderhinweise
Dieses Verbund­projekt wird unter dem Förder­kenn­zeichen 02L25A070 im Rahmen des Programms „Zukunft der Arbeit“ durch das Bundes­ministerium für Forschung, Techno­logie und Raum­fahrt (BMFTR) und die Europäische Union gefördert und vom Projekt­träger Karls­ruhe (PTKA) betreut.

Disclaimer:
„Für den oben stehenden Beitrag sowie für das angezeigte Bild- und Tonmaterial ist allein der jeweils angegebene Nutzer verantwortlich. Eine inhaltliche Kontrolle des Beitrags seitens der Seitenbetreiberin erfolgt weder vor noch nach der Veröffentlichung. Die Seitenbetreiberin macht sich den Inhalt insbesondere nicht zu eigen.“