본문 바로가기
728x90

전체 글74

Self-paced Learning Curriculum Learning Key Point 인간의 학습 프로세스를 모방하여 쉬운 것 부터 학습하고, 점차 어려운 것까지 학습하는 것 빠른 수렴 속도 확보 및 Local minimal에 빠지는 경향성 감소 최종 학습 모델을 효율적으로 학습하여 고성능 성과 확보 실제 학습 과정으로 학습 난이도가 낮은 샘플들만으로 여러 epoch을 학습하고, switch epoch 이후 학습 난이도가 높은 샘플들로 여러 epoch을 학습 https://ronan.collobert.com/pub/2009_curriculum_icml.pdf 이때, Curriculum Learning을 적용하기 위해선, "데이터 학습 난이도"라는 사전학습 지식이 필요하다. 따라서 위 문제를 해결하기 위해 Self-paced Learni.. 2023. 10. 31.
RuntimeError: Failed to import transformers.models.roberta.modeling_tf_roberta because of the following error (look up to see its traceback): libcupti.so.11.7: cannot open shared object file: No such file or directory conda uninstall tokenizers, transformers pip install transformers 2023. 10. 20.
conda환경에서 tensorflow-gpu 설치하는 방법 (cuda, cudnn, tensorflow-gpu) https://gretel.ai/blog/install-tensorflow-with-cuda-cdnn-and-gpu-support-in-4-easy-steps Install TensorFlow and PyTorch with CUDA, cUDNN, and GPU Support in 3 Easy Steps Set up a cutting-edge environment for deep learning with TensorFlow 2.10, PyTorch, Docker, and GPU support. gretel.ai 2023. 10. 20.
Tensorflow GPU 잘 잡히는지 확인하는 명령어 python3 -c "import tensorflow as tf; print(tf.config.list_physical_devices('GPU'))" 수행 시 GPU가 출력되면 성공적으로 tensorflow-gpu를 수행할 수 있다. 2023. 10. 20.
728x90