Skip to content

[FEATURE] GPT 모델 Pytorch Lightening에 적용 #3

Description

@Taekyoon

🚀 Feature

  • minGPT 모델 코드 적용 후 Pytorch Lightening 형식에 적용

Motivation

  • 활용 모델을 Pytorch Lightening에 적용한다.

Pitch

  1. minGPT 코드를 Copy & Paste ==> 현재 여기까지 진행
  2. Pytorch Lightening에 Pretraining을 위한 목적으로 구현
  3. 모델 동작이 되는지 테스트 구현

Additional context

Metadata

Metadata

Assignees

Type

No type

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions