Efficiently Perform Open-Book Question Answering Purely in the User’s Web Browser

Stellt euch vor, wir könnten digital vorliegende Bücher nicht mehr länger nur durchsuchen, sondern ihnen – ähnlich wie einer realen Person – Fragen stellen, um das in ihnen stehende Wissen zu entdecken und zu verstehen. Dieses Befragen von Büchern, das in der Fachwelt als Open-Book-Question-Answering bekannt ist und meist durch Open-Book-QA abgekürzt wird, können wir bereits heute mithilfe von sogenannten Large-Language-Modells – kurz LLMs, wie etwa ChatGPT – lösen: Dazu rufen wir zunächst relevantes – etwa aus einem Buch stammendes – Wissen ab und ergänzen dieses dann direkt in unserer Frage, die wir an ein LLM richten. Einziger Haken dabei ist jedoch, dass es unseres Wissens kein solches System gibt, das wir – apropos ChatGPT – unabhängig von proprietären Produkten oder ohne Installation von zusätzlicher Software verwenden können.

Ich heiße Tobias Antensteiner, und freue mich, dass ihr uns auf unserer Reise zu einem Open-Book-QA-System begleitet, das weitestgehend unabhängig von finanziellen oder technischen Ressourcen von der gesamten Internet-Community verwendet werden kann. Mit meiner Masterarbeit möchten wir unter anderem für den Bildungsbereich ein rein im Webbrowser laufendes Open-Book-QA-System als sogenanntes Proof-of-Concept entwickeln.

Dafür greifen wir auf bereits bestehende Open-Source-Projekte, frei verfügbare LLMs sowie neu aufkommende Webstandards zurück. Durch den Einsatz des sogenannten evolutionären Prototypings implementieren wir dazu unser direkt im Webbrowser ausführbares System, das wir mit einem eigens für das Benchmarking von Open-Book-QA-Systemen zusammengestellten Datensatz testen.

Nach Fertigstellung möchten wir unser System insbesondere sowohl für Lehrende als auch für Schüler*innen bzw. Studierende öffnen und als frei abrufbare Webanwendung der gesamten Internet-Community zur Verfügung stellen. Damit möchten wir den Zugang zu innovativen, disruptiven Technologien möglichst ungeachtet finanzieller oder technischer Ressourcen weiter demokratisieren: Denn die Zukunft von LLMs ist jetzt, offen, für alle.