Yifan Song und Kollegen 13.09.2023, 09:02 Uhr

RestGPT: LLMs gekoppelt mit Restful APIs

Entwickler Yifan Song hat mit seinen Kollegen auf GitHub das Projekt RestGPT vorgestellt. Es verbindet große Sprachmodelle mit RESTful APIs.
(Quelle: restgpt.github.io)
Tool-augmentierte große Sprachmodelle (LLMs) haben bemerkenswerte Fortschritte bei der Bewältigung eines breiten Spektrums von Aufgaben erzielt. Bestehende Methoden sind jedoch hauptsächlich auf speziell entwickelte Tools beschränkt und können komplexe Anweisungen nicht erfüllen, was zu großen Einschränkungen führt, wenn sie mit realen Szenarien konfrontiert werden.
Die Arbeit von Yifan Song und Kollegen zielt darauf ab, einen auf großen Sprachmodellen basierenden autonomen Agenten, RestGPT, zu konstruieren, um reale Anwendungen wie Filmdatenbanken und Musikplayer zu steuern. Um dies zu erreichen, verbinden sie Large Language Modells (LLMs) mit RESTful APIs und stellen sich den praktischen Herausforderungen der Planung, des API-Aufrufs und des Antwort-Parsing.
RestGPT nutzt die Leistungsfähigkeit von LLMs nutzt führt einen Online-Planungsmechanismus durch, um die Fähigkeiten der Aufgabenzerlegung und API-Auswahl zu verbessern. RestGPT enthält auch einen API-Executor, der auf den Aufruf von RESTful-APIs zugeschnitten ist und Parameter sorgfältig formulieren und API-Antworten parsen kann.
Laut Song und Kollegen zeigen erste Experimente, dass RestGPT in der Lage ist, beeindruckende Ergebnisse bei komplexen Aufgaben zu erzielen und eine hohe Robustheit aufweist. RestGPT und RestBench sind unter diesem URL öffentlich zugänglich.
Um die Leistung von RestGPT umfassend zu bewerten, schlägt Song RestBench vor, ein hochwertiges Testset, das aus zwei realen Szenarien und von Menschen kommentierten Anweisungen mit goldenen Lösungswegen besteht.
Die GitHub-Seite zum Projekt RestGPT finden hier. Eine Beschreibung des Projektes gibt es überdies im arXiv der Cornell University. Gerade in Arbeit ist eine Demo-Version zum Projekt.