Inspirationsbild zum Open-Book Question-Answering
Efficiently Perform Open-Book Question Answering Purely in the User’s Web Browser
Harness the Potential of Emerging Web Standards to Contribute to Democratize the Access to LLMs
Profile picture for user Tobias Antensteiner
Tobias Antensteiner

Efficiently Perform Open-Book Question Answering Purely in the User’s Web Browser

Förderjahr 2023 / Stipendien Call #18 / Stipendien ID: 6822

Bei vielen Anwendungen von Large-Language-Models (LLMs) stehen wir vor der Herausforderung, Antworten aus einem gegebenen Kontext zu extrahieren, anstatt eine möglicherweise falsche und veraltete Replik auf Basis des dem LLM zugrundeliegenden Wissens zu generieren. Aufbauend auf etablierten Techniken des Extractive Question-Answering (QA) bzw. Open-Book QA als Form des Natural-Language-based QA [4], können wir In-Context Learning (ICL) [1] einsetzen, um derartige kontextsensitive Antworten auf Fragen in Bezug auf eine Wissensbasis – wie z. B. Textdokumente – automatisiert zu geben.

Vor diesem Hintergrund möchten wir mit der Entwicklung eines u. a. für den Bildungsbereich konzipierten und rein im Webbrowser laufenden Open-Book-QA-Systems einerseits den Zugang zu innovativen Technologien weitestgehend unabhängig von finanziellen oder technischen Ressourcen weiter demokratisieren und andererseits die Potenziale aufkommender Webstandards [2, 3] exemplarisch als Proof-of-Concept erschließen.

[1] Cao, Y., … & Sun, L. (2023). A Comprehensive Survey of AI-Generated Content (AIGC): A History of Generative AI from GAN to ChatGPT. arXiv preprint arXiv:2303.04226.

[2] Chen, T., ... Krishnamurthy, A. (2018). TVM: An automated End-to-End optimizing compiler for deep learning. In 13th USENIX Symposium on Operating Systems Design and Implementation (OSDI 18) (pp. 578–594).

[3] Feng, S., ... Chen, T. (2023). TensorIR: An Abstraction for Automatic Tensorized Program Optimization. In Proceedings of the 28th ACM International Conference on Architectural Support for Programming Languages and Operating Systems, Volume 2 (pp. 804-817).

[4] Rejimoan, R., … Jayasudha, J. S. (2023). A Comprehensive Review on Deep Learning Approaches for Question Answering and Machine Reading Comprehension in NLP. In 2023 2nd Edition of IEEE Delhi Section Flagship Conference (DELCON) (pp. 1–6). IEEE.

Uni | FH [Universität]

Universität Innsbruck

Themengebiet

Education |Bildung |Lernen
,
Künstliche Intelligenz /AI / Machine Learning

Zielgruppe

Lehrer
,
Schüler
,
Studenten

Gesamtklassifikation

Masterarbeit

Technologie

AI | KI

Lizenz

MIT
,
CC-BY
Datenschutzinformation
Der datenschutzrechtliche Verantwortliche (Internet Privatstiftung Austria - Internet Foundation Austria, Österreich) würde gerne mit folgenden Diensten Ihre personenbezogenen Daten verarbeiten. Zur Personalisierung können Technologien wie Cookies, LocalStorage usw. verwendet werden. Dies ist für die Nutzung der Website nicht notwendig, ermöglicht aber eine noch engere Interaktion mit Ihnen. Falls gewünscht, treffen Sie bitte eine Auswahl: