Eigene Systemprompts als Ollama-Modell
Wenn man ein lokales Modell immer mit demselben Systemprompt benutzt, gehört der nicht in den Code:
Entwickler-Blog · Notizen aus der Praxis
Notizen aus .NET, WPF, Azure und dem echten Entwickleralltag.
Aktuelle Beiträge
Aus dem Archiv
Wenn man ein lokales Modell immer mit demselben Systemprompt benutzt, gehört der nicht in den Code:
Der angenehmste Nebeneffekt der IChatClient-Abstraktion ist, dass ein lokales Modell dahinter genauso aussieht wie ein entferntes. Das macht den Versuch billig.
Die einzige Gewohnheit aus dem Homelab, die ich uneingeschränkt empfehlen würde:
Während ich im Urlaub war, ist das Microsoft Agent Framework in Version 1.0 erschienen. Damit ist die Zusammenführung von AutoGen und Semantic Kernel abgeschlossen.
2017 habe ich hier über meinen günstigen Git-Server geschrieben: eine gebrauchte QNAP TS-110, eine alte SSD, Gogs darauf. Das Ding lief neun Jahre. Zeit für eine Bestandsaufnahme, auch wenn „Homelab” ein Wort ist, bei dem ich innerlich die Augen verdrehe.
Konrad Kokosas Buch zur .NET-Speicherverwaltung ist kein neues, aber ich bin diesen Monat dazu gekommen. Es beantwortet Fragen, die man sich nach zehn Jahren .NET immer noch nicht gestellt hat, etwa warum ein Objekt über 85.000 Byte auf einem anderen Heap landet und was das für die Fragmentierung bedeutet.
Das Standard-Template deckt bin und obj ab. Drei Dinge trage ich inzwischen immer zusätzlich ein:
Frostpunk steht bei mir mit knapp 23 Stunden in der Statistik, was für ein Aufbauspiel wenig ist. Der Grund ist nicht, dass es schlecht wäre. Es ist anstrengend, und zwar mit Absicht.
Der häufigste Fehler im Umgang mit CancellationToken ist, ihn entgegenzunehmen und dann nicht weiterzugeben:
Bevor man einer SSD noch ein Jahr zutraut:
Nach Thema einsteigen