d6d4561c17
* a2ping: minor fixes * ab: fix mnemonics * ab: fix mnemonics * ab: fix mnemonics * abduco: add mnemonics * accelerate: use Hugging Face as a trademark * ack: highlight grep as a command * acme.sh: highlight certbot as command * act: add mnemonics * ag: highlight ack as command * age-keygen: add Oxford comma * linux/shutdown: add mnemonics * airdecap-ng: use Oxford comma * alex: use standard path name template
835 B
835 B
Accelerate
Accelerate is een bibliotheek waarmee dezelfde PyTorch-code kan worden uitgevoerd op elke gedistribueerde configuratie. Meer informatie: https://huggingface.co/docs/accelerate/index.
- Toon informatie over de omgeving:
accelerate env
- Maak interactief een configuratiebestand:
accelerate config
- Druk de geschatte GPU-geheugenkosten af van het uitvoeren van een Hugging Face model met verschillende gegevenstypen:
accelerate estimate-memory {{name/model}}
- Test een Accelerate configuratiebestand:
accelerate test --config_file {{pad/naar/config.yaml}}
- Voer een model uit op CPU met Accelerate:
accelerate launch {{pad/naar/script.py}} {{--cpu}}
- Voer een model uit op multi-GPU met Accelerate, met 2 machines:
accelerate launch {{pad/naar/script.py}} --multi_gpu --num_machines {{2}}