Schlussfolgerung

intermediate

Der Prozess, bei dem ein trainiertes KI-Modell verwendet wird, um Vorhersagen zu treffen oder Ergebnisse zu generieren. Beim Training wird das Modell geschult; bei der Inferenz wendet es das Gelernte an. Wenn Sie ChatGPT eine Frage stellen, handelt es sich um eine Inferenz. Die Geschwindigkeit und die Kosten der Inferenz sind entscheidende Faktoren für KI-Systeme im produktiven Einsatz.