https://deeplearning.tnantoka.com/entry/2020/06/01/232656
の続き。
思ったより精度が全然あがりませんでしたが、なんとか形になりました。
参考にしたのは、以下のBERTによる実装。
https://ascii.jp/elem/000/004/002/4002417/
結果はこんな感じです。
1
9562/9562 [==============================] - 545s 57ms/step - loss: 0.6159 - mae: 0.4086 - mse: 0.2128 - acc: 0.6673 - val_loss: 0.5556 - val_mae: 0.3800 - val_mse: 0.1864 - val_acc: 0.7213
一応Webから実行できるようにしてみましたが、あまり有用ではなさそうだったので、この記事を書いて一旦終了にしようと思います。
次はPyTorchの勉強をする予定です。 (記事を読んでいてtorchのサンプルコードが出てくるとよくわからなくなってしまうため)