Richten Sie ein Vorlagenprojekt in der Modellkonvertierung ein

Dieser Artikel führt Sie durch die Einrichtung und Anpassung eines Vorlagenprojekts bei der Modellkonvertierung. Er leitet Sie durch die Bearbeitung von Konfigurationsdateien wie sample.json, model_project.config und anderen, um sie an Ihr spezifisches Modell, Ihren Datensatz und Ihre Workflow-Anforderungen anzupassen.

Nach der Erstellung des Vorlagenprojekts sehen Sie die folgenden erstellten Dateien. Um das Vorlagenprojekt zum Laufen zu bringen, können Sie die readme des Projekts befolgen, um die Parameter nach Ihren Wünschen zu aktualisieren.

Aktualisieren Sie sample.json

Damit das Beispiel funktioniert, müssen Sie die folgenden Eigenschaften ausfüllen. Zum Beispiel:

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

Sie können auch andere Parameter an Ihre Bedürfnisse anpassen

• execution_providers: [ "CPUExecutionProvider" ]: Zu anderen Anbietern wie QNNExecutionProvider. Sie müssen es auf dem übereinstimmenden Gerät ausführen
• max_length: 128 / batch_size: 1: Für die statische Quantisierung sollte die Eingabegröße fixiert sein. Passen Sie diese an FIXED_VALUES an
• max_samples: 100: Die Anzahl der verwendeten Stichproben.

Aktualisieren Sie model_project.config (optional)

Aktualisieren Sie den name der Workflows, um widerzuspiegeln, was Sie tun möchten. So ist es einfacher, aus der Workflow-Liste auszuwählen.

Aktualisieren Sie die displayName und modelLink von modelInfo auf die von Ihnen verwendete. So ist es einfacher, aus der Modell-Liste auszuwählen.

Aktualisieren Sie sample.custom.config (optional)

Diese Datei wird verwendet, um das Run-Panel und das Re-evaluate-Panel zu rendern. Sie können Parameter entfernen oder hinzufügen, um sie an Ihre sample.json anzupassen. Pfadaktualisierungen können erforderlich sein, wenn Sie den JSON-Eigenschaftsnamen ändern.

Aktualisieren Sie inference_sample.ipynb (optional)

Schreiben Sie Ihren eigenen Code, um das Ausgabemodell zu laden und zu testen. Diese Datei wird in den Verlauf-Ordner kopiert, sodass Sie verschiedene ipynb verwenden können, um Modelle aus verschiedenen Verläufen zu vergleichen.