Ein produktionsreifes Natural Language Processing (NLP) Forschungs- und Evaluierungs-Framework für Cross-lingual Aspect-Based Sentiment Analysis (X-ABSA). Das System überträgt semantische Tiefenrepräsentationen von einer ressourcenstarken Quellsprache (Englisch - EN) auf ressourcenärmere Zielsprachen (Vietnamesisch - VI, Deutsch - DE, und Chinesisch - ZH) über Restaurant- und Elektronik-Domänen hinweg.
Evaluierte Neuronale Architekturen
Das Framework evaluiert drei moderne mehrsprachige Modellierungsparadigmen unter strengen akademischen Maßstäben:
| Architektur | Paradigma & Backbone | Technische Kerninnovation |
|---|---|---|
| AG-CAN | Aspect-Guided Context Attention Network (mBERT) | Integriert spezialisierte Aspect-Guided Attention-Schichten mit Gated Residual Networks zur Erfassung feiner Interaktionen zwischen Kontext und Aspektentitäten. |
XLM-RoBERTa (XLM-R) | Mehrsprachiges Encoder Fine-Tuning | Nutzt Exact Masked Mean Pooling über Aspekt-Spans gekoppelt mit Layer-wise Learning Rate Decay (LLRD) (lr_embeddings, lr_encoder_low, lr_classifier) zur Erhaltung der Ausrichtung. |
| mT5 | Generativer Seq2Seq Transformer (Text-to-Text) | Reformuliert Aspekt-Klassifikation als generative Ende-zu-Ende-Aufgabe mit Constrained Decoding und direkter Label-Wahrscheinlichkeitsberechnung. |
Experimentelle Transferszenarien (S1, S2, S3)
%%{init: {'theme':'base', 'themeVariables': { 'primaryColor':'#1e1e2d','primaryTextColor':'#fff','primaryBorderColor':'#10b981','lineColor':'#34d399'}}}%%
flowchart TB
SRC[("🇬🇧 QUELLDATENSATZ
Englisch (EN)
Restaurant & Handy Domänen")] subgraph S1 ["S1: Zero-Shot Transfer (Mehrsprachige Generalisierung)"] direction TB A1["🧠 Modelltraining ausschließlich auf englischen Quelldaten"] A2["⚡ Direkte Zero-Shot Evaluierung auf VI, DE, ZH Testsets"] A1 ==> A2 end subgraph S2 ["S2: Few-Shot Schnellanpassung (Low-Resource Tuning)"] direction TB B1["📥 Initialisierung vom besten S1-Checkpoint"] B2["🎯 Fine-Tuning auf kleinen Stichproben (N ∈ {50, 100, 200})"] B3["🔄 Statistische Validierung über mehrere Seeds"] B1 ==> B2 ==> B3 end subgraph S3 ["S3: Vollständiger Transfer (Obere Benchmark-Grenze)"] direction TB C1["📥 Initialisierung vom besten S1-Checkpoint"] C2["🚀 Vollständiges überwachtes Training auf Zieldatensätzen"] C3["🏆 Etablierung oberer Leistungs-Benchmarks"] C1 ==> C2 ==> C3 end SRC ==> S1 S1 ==>|"Beste Checkpoints speichern"| S2 S1 ==>|"Beste Checkpoints speichern"| S3
Englisch (EN)
Restaurant & Handy Domänen")] subgraph S1 ["S1: Zero-Shot Transfer (Mehrsprachige Generalisierung)"] direction TB A1["🧠 Modelltraining ausschließlich auf englischen Quelldaten"] A2["⚡ Direkte Zero-Shot Evaluierung auf VI, DE, ZH Testsets"] A1 ==> A2 end subgraph S2 ["S2: Few-Shot Schnellanpassung (Low-Resource Tuning)"] direction TB B1["📥 Initialisierung vom besten S1-Checkpoint"] B2["🎯 Fine-Tuning auf kleinen Stichproben (N ∈ {50, 100, 200})"] B3["🔄 Statistische Validierung über mehrere Seeds"] B1 ==> B2 ==> B3 end subgraph S3 ["S3: Vollständiger Transfer (Obere Benchmark-Grenze)"] direction TB C1["📥 Initialisierung vom besten S1-Checkpoint"] C2["🚀 Vollständiges überwachtes Training auf Zieldatensätzen"] C3["🏆 Etablierung oberer Leistungs-Benchmarks"] C1 ==> C2 ==> C3 end SRC ==> S1 S1 ==>|"Beste Checkpoints speichern"| S2 S1 ==>|"Beste Checkpoints speichern"| S3
Technische Merkmale & MLOps-Infrastruktur
- Dockerisierte Orchestrierung: Vollständig isoliert via
docker-compose.ymlundDockerfile(CUDA >= 11.0, PyTorch 3.8+) für deterministische Ausführung. - Layer-Wise Learning Rate Decay (LLRD): Verhindert katastrophales Vergessen beim Feinabstimmen tiefer mehrsprachiger Transformer durch systematisch abnehmende Lernraten.
- Automatisierte Fehlertaxonomie & Visualisierung: Das Auswertungsmodul (
scripts/eval.py) generiert publikationsreife Grafiken:macro_f1_comparison.png: Mehrsprachiger F1-Benchmark-Vergleich.recovery_curves.png: Few-Shot-Wiederherstellungskurven abhängig von der Stichprobengröße $N$.gap_matrix.png: Matrix zur Quantifizierung des Repräsentationsdrifts zwischen Sprachen.