Wie wir den Ressourcenverbrauch unserer KI begrenzen

Es gibt einen Vorgang, den inzwischen fast jeder kennt: Man stellt einer KI eine Frage oder eine Aufgabe, und dann schreibt sie los. Manchmal geht das in Sekundenschnelle, manchmal dauert es einige Minuten. Bei competitionline funktioniert es anders: Wer eine Ausschreibung öffnet, findet die bereits aufbereiteten Informationen direkt. Ein Chatfenster, in das man tippen könnte, gibt es bislang nicht. Dass das vor allem etwas mit Logik und Ressourcenschonung zu tun hat, erklärt Ali Erfani, Head of Technology bei competitionline, im Interview.

Nicolai Blank: KI benötigt Rechenleistung, Energie und Wasser. Wie lässt sich ein KI-gestütztes Werkzeug wie der Auftragsagent Pro so entwickeln, dass es diese Ressourcen möglichst sparsam nutzt?

Ali Erfani: Ganz einfach, indem man zum Beispiel auf einen Chatbot verzichtet, der lauter individuelle Anfragen bedienen muss.

Aber ist KI nicht genau dafür da?

In manchen Fällen ja, in anderen nein. Ich antworte mit einer Gegenfrage: Welche Fragen an Vergabeunterlagen sind so speziell, dass sie einen individuell bedienbaren Chatbot benötigen? Die Antwort ist einfach: Wenn hundert Büros dieselbe Ausschreibung ansehen, dann haben sie fast immer dieselben Fragen: Wie groß ist das Bauvolumen? Welche Eignungskriterien gelten? Wie sieht die Bewertungsmatrix aus? Bis wann muss ich einreichen? Gibt es formale K.-o.-Kriterien? Sie stellen fast nie individuelle Fragen, sondern die wichtigen, allgemeingültigen Kernfragen.

Und wenn es die immer gleichen Fragen sind, dann ist ein Chatbot der teuerste denkbare Weg, sie zu beantworten. Denn dann rechnet die KI hundertmal dasselbe, für hundert Büros einzeln, und jeder von ihnen wartet auf die Antwort. Und jeder verbraucht die Ressourcen erneut. 

Was macht competitionline stattdessen?

Wir beschaffen und analysieren die Vergabeunterlagen pro Ausschreibung nur einmal. Das Ergebnis steht dann allen Kunden des Auftragsagenten Pro zur Verfügung, ohne Wartezeit.

Wer eine Ausschreibung öffnet, sieht sofort die strukturierte Übersicht: Bauvolumen, Eignungskriterien, Bewertungsmatrix, Fristen, formale Ausschlusskriterien, alles jeweils mit Direktverweis zur Originalstelle in den Vergabeunterlagen. Die KI-Analyse ist schon fertig, niemand muss warten. 

Ihr setzt eine ressourcenintensive Technologie ein, um Ressourcen zu schonen? Das klingt paradox. 

Ja, ist es in gewisser Weise auch. Aber Fakt ist: Menschen nutzen KI, weil sie einfach zu viele Vorteile bietet. Gerade deshalb macht es Sinn, genau zu überlegen, wo man individuelle KI-Nutzungen vermeiden und zu Services bündeln kann. Bei der Analyse von Vergabeunterlagen sind individuelle Nutzungen aus ökologischen Erwägungen kontraproduktiv. Deswegen sage ich ganz klar: Ja, ich verstehe den Auftragsagent Pro auch als Beitrag zur Ressourcenschonung.

Ihr arbeitet bewusst mit möglichst kleinen Modellen. Was bedeutet das technisch?

Technisch bedeutet es, dass wir für jede Teilaufgabe das kleinste Modell einsetzen, das die Aufgabe zuverlässig löst. Ein Dokument in eine maschinenlesbare Form zu bringen, eine Tabelle als Bewertungsmatrix zu erkennen, eine Frist zu extrahieren: Das sind sehr unterschiedliche Aufgaben mit sehr unterschiedlichem Anspruch. Wer für alles das größte verfügbare Modell nimmt, bezahlt für Leistung und verbraucht Ressourcen, die man nicht braucht.

Und die Qualität der Ergebnisse leidet nicht darunter?

Nein, überhaupt nicht. Die Spezialisierung unseres Tools gleicht den Größenunterschied der Modelle aus. Ein System, das auf tausenden deutschen Vergabeunterlagen entwickelt und getestet wurde, ist bei dieser Aufgabe wesentlich präziser als ein allgemeines Großmodell, das alles ein bisschen kann. Der Vorteil liegt nicht in der Modellgröße, er liegt im Domänenwissen. Und das stammt bei uns aus 23 Jahren Arbeit mit genau diesen Dokumenten.

Das musst Du bitte genauer erklären: Was hat Domänenwissen mit KI-Modellgrößen zu tun?

Wir haben für die spezifischen Anforderungen der einzelnen Arbeitsschritte bei der Analyse und Aufbereitung der Vergabeunterlagen die Modelle gewählt, die das bestmögliche Ergebnis bei geringstmöglichem Ressourcenverbrauch liefern. Das haben wir nicht nur vielfach getestet und verglichen, sondern die Algorithmen auch fachspezifisch optimiert. Dazu muss man verstehen, wie Vergabe funktioniert und Vergabeunterlagen strukturiert sind. Das lässt sich nicht in wenigen Monaten eben mal aneignen, dazu ist jahrelange Expertise nötig. Das meine ich mit Domänenwissen. Sie sorgt dafür, dass sich unsere Nutzer*innen auf die Ergebnisse des Auftragsagent Pro verlassen können. 

Ressourcenverbrauch von KI, Strom und Wasser, beschäftigt eine Branche, die täglich über Nachhaltigkeit entscheidet. Ist das für Sie ein Nebeneffekt oder ein Entwurfsprinzip?

Ein Entwurfsprinzip. Und ich sage bewusst dazu, dass es zugleich ein wirtschaftliches Prinzip ist. Rechenleistung kostet Geld und sie kostet Energie, das ist dieselbe Größe von zwei Seiten betrachtet. Was mir wichtig ist: Die Entscheidung, einmal zu analysieren statt auf Zuruf, ist eine Architekturentscheidung, die am Anfang unserer Arbeit am Auftragsagent Pro stand. Sie ist gut für die Wartezeit, gut für die Kosten und gut für den Verbrauch. 

Ich denke, unsere Kund*innen können das gut beurteilen. Architekt*innen und Ingenieur*innen entscheiden täglich über Konstruktionen, bei denen die gute, sparsame Lösung nicht gleich Jedermann oder -frau ins Auge springt. Genau so denken wir über Software.

Viele Planende sind KI gegenüber skeptisch, manche haben Angst davor. Was sagen Sie denen?

Dass die Skepsis berechtigt ist, und dass sie den Auftragsagenten Pro ausprobieren sollten, gerade deswegen.

Die Vorbehalte richten sich meistens auf zwei Dinge. Erstens: Die KI entscheidet über mich. Zweitens: Ich verstehe nicht, wie sie zu ihrem Ergebnis kommt. Beides haben wir im Entwurf beantwortet. Der Auftragsagent entscheidet nichts. Er stellt zusammen, was in den Unterlagen steht, und zwar so, dass Sie jede einzelne Angabe an der Originalquelle nachprüfen können. Ein Klick, und Sie sehen die Stelle im Dokument.

Wir haben von Anfang an gesagt: Büros sollen nicht blind vertrauen müssen. Der Auftragsagent Pro liefert eine strukturierte Grundlage. Die Entscheidung trifft immer der Mensch. 

Ich sage manchmal: Der Auftragsagent ist kein Ratgeber. Er ist ein sehr gründlicher Kollege, der die Unterlagen vor Ihnen gelesen und markiert hat. Was Sie daraus machen, bleibt Ihre Entscheidung.

Werde ich als Büroangestellte*r damit nicht ein Stück weit überflüssig? 

Diese Sorge höre ich manchmal auch. Nein, natürlich wird dadurch niemand überflüssig. Der Auftragsagent nimmt Ihnen das Beschaffen der Unterlagen ab, das Öffnen der ZIP-Archive, das Zusammensuchen verstreuter Angaben. Die fachliche Bewertung, die Einschätzung, ob ein Projekt zum Büro passt, die Abstimmung im Team, die Bewerbung selbst, das bleibt bei Ihnen. Der Auftragsagent verkürzt die Zeit von der Vorbereitung hin zur eigentlichen Entscheidung. Am Ende können Sie mehr Verfahren sichten oder mehr Bewerbungen schreiben oder mehr planen. Je nachdem wie Sie die gewonnene Zeit einsetzen möchten.

Kann man den Auftragsagenten Pro nutzen, ohne etwas über KI zu wissen?

Ja. Es gibt nichts zu konfigurieren, keinen Prompt zu formulieren, keine Einstellung zu verstehen. Sie klicken bei einer Ausschreibung auf das entsprechende Feld, der Rest ist schon vorbereitet. Das war eine bewusste Vorgabe. Wer über KI nachdenken muss, um ein Werkzeug zu benutzen, benutzt das falsche Werkzeug.

Unter welchen Bedingungen käme ein Chatbot doch in Frage?

Wenn wir belegen können, dass es eine relevante Menge an Fragen gibt, die unsere strukturierte Analyse nicht abdeckt und die für Büros wirklich zählen. Dann bauen wir ihn, und dann bauen wir ihn richtig gut. 

Das ist übrigens der beste Weg für unsere Mitglieder, das zu beeinflussen: Sagen Sie uns, welche Frage Sie an eine Vergabeunterlage haben, die Ihnen der Auftragsagent nicht beantwortet hat. Genau daraus entsteht die Entscheidung, ob wir weitere Analysen für alle oder einen individuellen Chatbot bereitstellen. Was wir nicht tun werden, ist ein Chatfenster einzubauen, damit eines da ist.

Jede Rechenleistung, die wir nicht verbrauchen, ist Geld, das nicht im Preis landet. Wir haben ein Werkzeug gebaut, das ein Büro mit drei Personen genauso nutzen kann wie eines mit hundert. Das geht nur, wenn wir bei den Kosten diszipliniert sind. Insofern ist die Entscheidung gegen den Chatbot auch eine Entscheidung für die kleinen Büros mit kleinen Budgets.