Vertrauen in KI-Agenten aufbauen: Freisetzung ihres Beschaffungspotenzials durch verantwortungsvolle Übernahme

Agentische KI verändert das Beschaffungswesen und hilft Teams, schnellere und intelligentere Entscheidungen zu treffen. Gartner prognostiziert, dass bis 2028 33 % der Softwareanwendungen mit agentenbasierter KI ausgestattet sein werden, während es im Jahr 2024 noch weniger als 1 % waren.

‍

Doch um dieses Potenzial zu erschließen, müssen Unternehmen der Technologie vertrauen. In diesem Blog erfahren Sie, warum Vertrauen und Transparenz für die Einführung von KI im Beschaffungswesen unerlässlich sind, wie verantwortungsvolle KI aussieht und wie Human-in-the-Loop-Systeme (HITL) die Einführung erleichtern und Risiken reduzieren können.

‍

Warum Vertrauen und Transparenz die Grundlage für eine erfolgreiche Einführung von KI sind

KI kann die Beschaffungsergebnisse drastisch verbessern, von der Kostensenkung über die Rationalisierung der Lieferantenauswahl bis hin zur Automatisierung von Arbeitsabläufen. Diese Vorteile hängen jedoch von einer Sache ab: Vertrauen. Die Beschaffungsteams müssen darauf vertrauen, dass die KI-Empfehlungen fundiert und konsistent sind. Die Lieferanten müssen glauben, dass sie fair und transparent bewertet werden. Wenn eine der beiden Gruppen Zweifel hat, verlangsamt sich die Akzeptanz. Probleme wie Verzerrungen in historischen Daten, undurchsichtige Modelle oder eine schlechte Unternehmensführung können das Vertrauen untergraben. Und es geht nicht nur um Ethik - Vorschriften wie die GDPR verlangen Erklärungen und die Möglichkeit, automatisierte Entscheidungen anzufechten.  

‍

Verantwortungsvolle KI in der Beschaffung: Sicherheit, Kontrolle und Rechenschaftspflicht

Verantwortungsbewusste KI bedeutet, Systeme zu entwickeln, die ethisch vertretbar, rechenschaftspflichtig und transparent sind und gleichzeitig mit Ihren rechtlichen und organisatorischen Standards übereinstimmen. Für das Beschaffungswesen bedeutet dies vor allem drei Säulen: Sicherheit, Kontrolle und Verantwortlichkeit.

‍

Datensicherheit: Die Grundlage einer verantwortungsvollen KI

Herkömmliche SaaS-Tools stellen bereits eine Herausforderung für die Datensicherheit dar, insbesondere wenn die Kundendaten außerhalb Ihrer Umgebung verarbeitet werden. Bei agentenbasierter KI steht sogar noch mehr auf dem Spiel. Diese Systeme sind auf einen kontinuierlichen Zugriff auf Verträge, Lieferantendaten und Transaktionshistorien angewiesen, um Ergebnisse zu liefern. Deshalb ist eine starke Datensicherheit für eine verantwortungsvolle KI unerlässlich.  

‍

Führende Plattformen gewährleisten:

• Starke Verschlüsselung für Daten im Ruhezustand und bei der Übertragung, die einen unbefugten Zugriff während der Speicherung oder Bewegung verhindert.

• Rollenbasierte Zugriffskontrolle, so dass Agenten und Benutzer nur auf die Daten zugreifen können, die ihren Berechtigungen entsprechen.

• Datenminimierung, d. h. Beschränkung des KI-Zugriffs auf die für eine bestimmte Aufgabe erforderlichen Informationen.

• Umfassende Prüfpfade, die jede KI-Aktion protokollieren, um Rückverfolgbarkeit und Verantwortlichkeit zu ermöglichen.

‍

Diese Sicherheitsvorkehrungen verringern das Risiko, vereinfachen die Einhaltung von Vorschriften und schaffen Vertrauen in KI-gestützte Entscheidungen.

‍

Aufbewahrung und Kontrolle von Daten: Jenseits der Souveränität

Während Datenhoheit oft mit dem öffentlichen Sektor in Verbindung gebracht wird, ist die Notwendigkeit einer vollständigen Kontrolle darüber, wo Daten gespeichert werden und wer darauf zugreifen kann, für private Organisationen genauso wichtig. Bei Procure Ai nennen wir dies Datenresidenz und -kontrolle, die durch vier Schlüsselfunktionen in die Plattform integriert sind:

• Dateneigentum: Sie behalten die volle Kontrolle über Ihre Daten und Ihre Umgebung und haben die Möglichkeit, den Zugriff jederzeit zu verschieben oder zu beenden.

• Rechtliche Zuständigkeit: Sie entscheiden, wo Ihre Daten gehostet werden, um lokale Vorschriften und Compliance-Anforderungen zu erfüllen - ob in der EU, in Großbritannien oder in anderen Regionen.

• Exklusive Cloud-Kontrolle: Ihre Cloud-Konten bleiben auch auf Cloud-Plattformen wie AWS oder Azure bei Ihnen. Keine gemeinsam genutzte Infrastruktur, kein Verlust der Kontrolle. Für Kunden des öffentlichen Sektors bieten staatlich oder von der Regierung gehostete Clouds zusätzliche Sicherheit und gewährleisten, dass sensible Daten innerhalb der nationalen Gerichtsbarkeit bleiben.

• Dedizierte Umgebungen: Jeder Kunde läuft in einer privaten, isolierten Umgebung mit separater Infrastruktur, die Sicherheit, Datenschutz und vollständige Compliance gewährleistet.  

‍

Ob öffentlich oder privat, der rote Faden ist klar:  

Daten sollten gemäß den Richtlinien und Werten Ihres Unternehmens gespeichert, verarbeitet und verwaltet werden und nicht von Ihrem KI-Anbieter diktiert werden.

‍

AI-Leitplanken und Rechenschaftspflicht

Vertrauen hängt auch davon ab, dass die richtigen Grenzen gesetzt werden. Leitplanken definieren, was KI-Agenten tun können und was nicht. Zu den wichtigsten Komponenten von KI-Leitplanken gehören:

• Strategische Grenzen: Beauftragte sind in ihren Möglichkeiten eingeschränkt, nicht nur durch technische Zwänge (z. B. Ausarbeitung, aber nicht Unterzeichnung von Verträgen), sondern auch durch die Beschaffungsstrategien des Unternehmens. Entscheidend ist, dass die Agenten immer im Einklang mit den globalen Beschaffungsrichtlinien und insbesondere mit den von den Category Managern festgelegten Beschaffungsstrategien arbeiten.  

• Transparenz: Jede Entscheidung wird protokolliert und erklärt, so dass sowohl Nutzer als auch Prüfer nachvollziehen können, wie und warum KI-Empfehlungen ausgesprochen wurden.

• Der Mensch im Kreislauf: Menschen überprüfen und genehmigen KI-gesteuerte Aktionen und können sie jederzeit außer Kraft setzen.

‍

Der Mensch im Kreislauf: Vertrauen schaffen und die Einführung erleichtern

Human-in-the-Loop-Systeme (HITL) sorgen dafür, dass Menschen an wichtigen Entscheidungspunkten beteiligt sind und die Effizienz der KI mit dem menschlichen Urteilsvermögen in Einklang gebracht wird. Die Beschaffungsteams behalten die Kontrolle, während die KI ihre Arbeitsabläufe unterstützt. Ein Beispiel:  

• Die KI erstellt eine Auswahlliste der Anbieter, die von einem Menschen genehmigt wird.

• Die KI entwirft Begriffe; ein Mensch überprüft und passt sie an.

• Die KI zeigt Vertragsrisiken an; ein Mensch untersucht sie und reagiert darauf.

‍

HITL schafft Vertrauen, indem es zeigt, wie das System funktioniert und den Teams die Kontrolle gibt. Es ist auch ideal für eine schrittweise Einführung, damit Teams Vertrauen aufbauen können, bevor sie zu autonomerer KI übergehen.

‍

Ai beschaffen: Vernetzt und sicher  

Procure Ai ist darauf ausgelegt, durch Architektur, Transparenz und Kontrolle Vertrauen zu schaffen. Im Gegensatz zu herkömmlichen SaaS-Plattformen verbleiben Ihre Daten vollständig in Ihrer Umgebung. Sie werden niemals extern gespeichert oder verarbeitet. Das bedeutet, dass Ihr Unternehmen die volle Verantwortung behält und gleichzeitig die internen Richtlinien und regionalen Anforderungen an die Datenaufbewahrung erfüllt.

‍

Sicherheit und Datenschutz sind auf jeder Ebene integriert. Die Daten werden bei der Übertragung und im Ruhezustand verschlüsselt. Der Zugriff wird mit Zwei-Faktor-Authentifizierung, IP-Whitelisting und rollenbasierten Berechtigungen kontrolliert, um sicherzustellen, dass nur autorisierte Benutzer und Agenten mit sensiblen Daten interagieren können. Jede KI-gesteuerte Aktion wird in manipulationssicheren Prüfpfaden protokolliert, um eine vollständige Rückverfolgbarkeit zu gewährleisten.

‍

Procure Ai erfüllt außerdem strenge Sicherheitsstandards, einschließlich der Zertifizierung nach ISO 27001 und regelmäßiger Penetrationstests durch Dritte. Jeder Kunde arbeitet in einer dedizierten, isolierten Umgebung mit separater Infrastruktur und Richtlinien. Selbst wenn Sie Cloud-Plattformen wie AWS oder Azure nutzen, verwalten Sie Ihre eigenen Cloud-Konten - es gibt kein Datenpooling, keine gemeinsame Infrastruktur und keine Anbieterbindung.

‍

Mit einem Null-Datenaufbewahrungsmodell, klaren Governance-Richtlinien und vollständiger Kontrolle über Ihre Umgebung verspricht Procure Ai nicht nur Sicherheit und Transparenz. Wir liefern sie durch jede Ebene der Plattform.

‍

Den Weg für eine verantwortungsvolle Einführung von KI in der Beschaffung ebnen

Indem sie Vertrauen zur Grundlage ihrer KI-Strategie machen, können Beschaffungsleiter auf verantwortungsvolle, ethische und nachhaltige Weise transformative Werte freisetzen. Um Vertrauen in KI-Agenten aufzubauen, müssen Unternehmen diese Technologie bewusst entwickeln und einsetzen. Sie müssen verantwortungsvolle KI-Prinzipien von Grund auf verankern, sicherstellen, dass Daten geschützt werden, Leitplanken implementieren, die Aufsicht aufrechterhalten und HITL-Systeme nutzen, um Vertrauen aufzubauen, Fairness zu gewährleisten und schrittweise Veränderungen zu unterstützen.

‍

Sind Sie bereit, Ihre AI-Reise zu beginnen? Kontaktieren Sie uns um mehr über die Implementierung von agentenbasierter KI mit Procure Ai zu erfahren.