「BERTによる自然言語処理入門」のChapter8のスクリプトをなんとかローカルで動かそうとしているが、ノートPCのMX230では
RuntimeError: CUDA out of memory. Tried to allocate 24.00 MiB (GPU 0; 4.00 GiB total capacity; 2.88 GiB already allocated; 0 bytes free; 3.01 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
というようなエラーが出て動かず。実はリモートにあるGTX 1080Ti(11GB)搭載PCではメモリ不足とは出なかったが、GPUが止まったというエラーが出たのでレジストリをいじって止まらない設定にしたところ、どうやらGPU周りがハングしているようで、Windows Remote Desktopでアクセスはできるものの画面が表示されず、cygwinのsshdにはログインできるものの、なぜかrebootコマンドも効かない。リモートにあって当分物理的アクセスができないので困ったものだ。
というか、deep learningを学習しようとするとこんなところで躓くのだ、ということが分かった。本ではGoogle Colaboratoryを用いるようになっているが、確かにそれが一番無難かもしれない。しかし、なんとかローカルで動かしたい。
