f

app.py

@@ -57,7 +57,7 @@ def klassifiziere_lebensmittel_fewshot(produkt_text):
     with torch.no_grad():
         output = model.generate(
             **inputs,
-            max_new_tokens=10,   # Begrenze die Antwort auf wenige Tokens
+            max_new_tokens=200,   # Begrenze die Antwort auf wenige Tokens
             temperature=0.0,     # So wenig "kreatives" Rauschen wie möglich
             top_p=1.0,
             do_sample=False