Zum Inhalt

Talk to Your Documents

Talk to Your Documents ist eine lokal betreibbare Webanwendung, mit der sich mehrere Dokumente gleichzeitig in natürlicher Sprache befragen lassen. Statt auf Vektorsuche und Chunking zurückzugreifen, übergibt die Anwendung den vollständigen Dokumenteninhalt an ein Sprachmodell mit großem Kontextfenster (bis zu 250.000 Token). Eine vorgeschaltete Aufbereitungspipeline bereinigt, dedupliziert und strukturiert die Inhalte; ein nachgelagertes Referenzsystem versieht jeden Absatz mit eindeutigen Quellenangaben.

Auf einen Blick

  • Bis zu 25 Dokumente unterschiedlicher Formate gleichzeitig befragen, ohne sie zuvor manuell aufbereiten zu müssen
  • Konkrete Aussagen direkt zu ihren Quellen zurückverfolgen — Antworten enthalten Absatz- und Seitenreferenzen
  • Inhalte über mehrere Dokumente hinweg vergleichen und auf Widersprüche prüfen
  • Sicher arbeiten — Dokumente und Chatverläufe verbleiben ausschließlich im Sitzungsspeicher und werden nach Sitzungsende verworfen
  • Chatverläufe als formatiertes Word-Dokument exportieren
  • Kontextauslastung und Tokenverbrauch jederzeit einsehen
  • Sprachmodell-Endpunkt frei wählen (kommerzielle API oder lokal betriebenes Modell)

Highlights

Im Unterschied zu einem direkten Prompt an ein Sprachmodell oder einem einfachen Skript adressiert die Anwendung diejenigen Faktoren, die in der Praxis über die Qualität von Dokumenten­recherchen entscheiden: Vollständigkeit der erfassten Inhalte, Sauberkeit des an das Modell übergebenen Materials und Nachvollziehbarkeit der Antworten.

  • Long-Context statt RAG. Anstelle einer Aufteilung in Textfragmente (Chunking) und einer semantischen Vorauswahl (Retrieval) wird der vollständige Dokumenteninhalt in einem Kontextfenster von bis zu 250.000 Token an das Sprachmodell übergeben. Damit entfällt das Risiko, dass relevante Passagen durch eine vorgeschaltete Auswahl unsichtbar werden.
  • Mehrstufige Aufbereitungspipeline. Vor der Übergabe an das Modell durchlaufen alle Dokumente eine Verarbeitungskette aus Extraktion, Bereinigung von Headern, Footern, Seitenzahlen und Wasserzeichen, exakter und unscharfer Deduplizierung sowie strukturerhaltender Markdown-Konvertierung. Das reduziert Rauschen im Kontext und verbessert die Antwortqualität.
  • Nachvollziehbare Quellenangaben. Jeder hinreichend lange Absatz erhält eine eindeutige Referenz-ID ([P1], [P2], …). Das Modell wird angewiesen, diese Marker in seine Antworten zu setzen; die Anwendung löst sie anschließend zu Textpassagen mit Dokumentnamen und Seitenzahl auf.
  • Multi-Dokument-Verarbeitung. Bis zu 25 Dokumente werden in einer gemeinsamen Sitzung verwaltet. Inhalte lassen sich gemeinsam analysieren und Widersprüche zwischen Dokumenten gezielt aufdecken.
  • Breite Formatabdeckung. Eine einheitliche Extraktionsschicht verarbeitet PDF (einschließlich interaktiver Formularfelder), Word, Excel, PowerPoint, Text, Markdown, HTML, CSV und weitere Formate. Eine manuelle Vorkonvertierung entfällt.
  • Datenschutz durch sitzungslose Verarbeitung. Hochgeladene Dokumente und Chatverläufe werden ausschließlich im Arbeitsspeicher der laufenden Sitzung vorgehalten und mit deren Ende verworfen. Auf dem Server verbleiben keine Daten; persistente Kopien entstehen ausschließlich durch den vom Nutzer angestoßenen Word-Export.
  • Anbindung an verschiedene Sprachmodelle. Jeder Inferenz-Endpunkt, der mit der OpenAI-API kompatibel ist, kann angesprochen werden — kommerzielle Anbieter ebenso wie lokal betriebene Modelle (etwa über Ollama oder vLLM). Die Auswahl erfolgt über Konfigurationsparameter ohne Codeänderung.
  • Streaming und Abbruchkontrolle. Antworten werden tokenweise gestreamt und können während der Generierung manuell beendet werden, was insbesondere bei langen Antworten den Bearbeitungs­komfort erhöht.
  • Kontextkontrolle. Tokenverbrauch und Auslastung des Kontextfensters sind in der Oberfläche jederzeit sichtbar; das Hinzufügen weiterer Dokumente wird ab Erreichen der Grenze regelbasiert verhindert.