gihakkk/bert_nupy_model

tensorflow, pytouch 없이 모든 레이어를 직접 구현하여 만든 bert 유사 모델 아키텍쳐 입니다
미래에 까먹을, 하지만, 과거의 나는 딥러닝에 대한 모든 선형대수학을 이해했었다는 증거로 남기고 싶어? 이렇게 올려봅니다. train.py 내부 코드를 열어 어떻게 학습이 이루어 지는지 공부하는데 사용할 수 있습니다.
모델 성능은 처참합니다.