PyTorch で GPU を使う方法

目次

はじめに
GPU の利用可能性を確認する
GPU を使う
torch.cuda パッケージ
メトリクスの可視化例
概要

はじめに

GPU の利用可能性を確認する

>>> import torch
>>> torch.cuda.is_available()

GPU を使う ― 注意点

既定ではテンソルは CPU 上で生成され、モデルも CPU 上で初期化されます。したがって、処理を GPU で実行するように手動で確認する必要があります。

>>> X_train = torch.FloatTensor([0., 1., 2.])
>>> X_train.is_cuda
False

PyTorch には、CPU で生成したテンソルを GPU に転送するための使いやすい API が用意されています。幸い、新しく生成されるテンソルは親テンソルと同じデバイス上に作成されます。

>>> X_train = X_train.to(device)
>>> X_train.is_cuda
True

同じ考え方はモデルにも当てはまります。

 model = MyModel(args)
 model.to(device)

そのため、データとモデルをGPUへ転送する必要があります。では、何がdevice？
一般的な PyTorch の書き方として、たいていは次のように命名された変数を初期化します。device学習に使用するデバイス（CPU か GPU）を保持する変数です。

device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
print(device)

torch.cuda パッケージ

テンソルを GPU 上に置きたい場合は、呼び出してください.cuda()。

>>> X_train = torch.FloatTensor([0., 1., 2.])
>>> X_train = X_train.cuda() 

GPU 上のテンソルを CPU に戻したい場合は、次の呼び出しを使います.cpu()通常は、モデルの出力（テンソル）を CPU に戻すために使用します。
現在選択されているデバイスのインデックスを取得するには。

 >>> torch.cuda.current_device() # returns 0 in my case

利用可能な GPU の数を取得するには。

>>> torch.cuda.device_count() # returns 1 in my case

デバイス名を取得するには。

>>> torch.cuda.get_device_name(0) # good old Tesla K80

例とGPU指標の可視化



概要

Weights & Biases を試す

下の緑色の「Run」ボタンをクリックしてください初回に Run をクリックすると、Replit がマシンを割り当てるまでに約 30–45 秒かかります。
ターミナルウィンドウの指示に従ってください（右下のペイン）
ターミナルウィンドウのサイズを変更できます（右下）拡大表示

PyTorch に関心のある方へのおすすめ記事