必要なビデオメモリの量を確保できなかった時に出るエラーです。

ビデオメモリが足りない、ドライバの不具合、ビデオカードとの相性などが考えられます。

特に、統合型のビデオカードを使用した古いマシンなどではビデオメモリが十分でないことがあります。

必要スペックなどは「Blenderの必要動作環境（スペック）はどの程度ですか？」や公式ページを参照してください

Windowsでビデオメモリの容量を確認するには、ファイル名を指定して実行から"dxdiag"と入力しDirectX診断ツールのディスプレイタブを見てください。