#separator:tab #html:true #tags:open-models-quiz #columns:Vorderseite Rückseite

Du schaltest das WLAN ab, und das Modell in LM Studio antwortet trotzdem. Was folgt daraus?

  1. Das ganze Modell liegt als Datei auf dem Laptop und wird von dessen Prozessor oder Grafikkarte gerechnet.
  2. LM Studio speichert frühere Antworten aus dem Internet zwischen und spielt sie offline wieder ab.
  3. Das Modell antwortet aus einer kleinen Textdatenbank, die mit LM Studio installiert wurde.
  4. Das Modell schickt die Fragen nach, sobald die Verbindung zurück ist, und zeigt bis dahin vorläufige Antworten.

Ein Modell hat 8 Milliarden Parameter, jeder mit 4 Bit gespeichert. Wie groß ist die Datei ungefähr?

  1. 4 GB
  2. 8 GB
  3. 32 GB
  4. 16 GB

Gemma 3 4B antwortet auf demselben Laptop deutlich langsamer als Gemma 3 1B. Warum?

  1. Jedes Token durchläuft alle Parameter, und das 4B-Modell hat viermal so viele.
  2. Das größere Modell durchsucht für jede Antwort eine größere Textdatenbank.
  3. Das größere Modell schreibt längere Antworten, weil es mehr weiß.
  4. Das größere Modell prüft jede Antwort im Internet, bevor es sie zeigt.

Welche Aussagen über offene Modelle treffen zu?

  1. Ihre Gewichte lassen sich herunterladen und auf eigener Hardware betreiben.
  2. Ihre Trainingsdaten werden stets mit den Gewichten veröffentlicht.
  3. Man kann sie anpassen, etwa mit eigenen Daten nachtrainieren.
  4. Für sie können Lizenzen gelten, die manche Nutzungen einschränken.
  5. Man kann sie nicht in einem Agenten einsetzen.

In welcher Lage ist ein lokales offenes Modell die sinnvollste Wahl?

  1. Eine Tierarztpraxis will Behandlungsnotizen zusammenfassen, die die Praxis nicht verlassen dürfen.
  2. Eine Studentin will auf einem langsamen Laptop die bestmögliche Antwort auf eine schwierige Forschungsfrage.
  3. Ein Start-up will viele verschiedene Modelle schnell ausprobieren, ohne Hardware zu kaufen.
  4. Ein Marketingteam braucht aktuelle Preise der Konkurrenz aus dem Netz.

Was bedeutet es, ein Modell zu quantisieren?

  1. Die Parameter mit weniger Bit speichern, wodurch die Datei kleiner wird und etwas Qualität verloren geht.
  2. Selten gebrauchte Wörter aus dem Wortschatz entfernen, damit das Modell schneller wird.
  3. Das Modell in Teile zerlegen, die auf mehreren Rechnern laufen.
  4. Das Modell ein zweites Mal mit weniger Daten trainieren.