Wookang makes AI

도다리 고급 번역이 어느정도 안정됨에 따라 코드 공개를 결정했습니다.vram이 23이상일때 야놀자 모델사용 가능운영체제가 리눅스일 경우 vllm(AI 가속 모듈) 사용 가능번역 프롬프트 커스터마이징필터 문구 커스터마이징현재 코드는 개발자인 저에게만 맞춰져 있어 빈틈이 많습니다.모두가 쓸수 있게 바꾸는데에는 시간이 좀 걸릴 것 같습니다. 소스코드 전면 공개 후 다시 공지하겠습니다!현재(24.07.19) eeve(고급번역)모델을 파인튜닝하고 있습니다.여러방식으로 전처리, 후처리, 프롬프트 엔지니어링을 테스트 해보았지만번역 출력시 발생하는 환각현상을 제거하기 어려웠기 때문입니다. 오늘 3차 파인튜닝 결과물을 이용해 테스트를 하고 있는데 지금까지는 결과가 희망적으로 보입니다. => 다시 비관적으로 보입니다ggu..

* 네이버 스마트 스토어를 통해 도다리를 이용하실수 있습니다.1. 도다리 텍스트 txt 고급 번역하러 가기2. 도다리 전자책 epub 고급 번역하러 가기3. 도라리 70분 자유번역하러 가기

* 동기1. 기술관련 영상은 자동생성 자막이라도 어찌어찌 해볼만하지만 다큐멘터리나 인터뷰 영상의 경우 도저히 화면을 따라갈수 없었다.2. 높은 수준이 아니어도 좋으니 내용을 어느 정도는 따라가게 해줄 번역이 필요했다. * 기능1. 이에 도다리 에 자막번역(srt파일) 기능을 추가했다.2. smi 번역도 추가할까해서 알아보니 이건 한국에서만 사용하는 파일형식이라 한다. 그래서 빼버렸다.3. 사용법은 다른 번역과 완전히 동일하다. srt파일을 드래그 하여 첨부한 후 번역버튼을 누르면 된다. * 유튜브 영상에 대하여1. 사실 유튜브 주소만 넣으면 영상과 자막을 자동으로 받고 번역까지 하는걸 이미 개발했다.2. 그런데 비슷한 기능을 가진 라이브러리 whisper-webui 가 이미 있다.3. 다른 점이라면 wh..

콘다로 새로운 가상환경 만들어준다 conda create -n textgen python=3.10 이 환경 아래에 설치한 후 활성화하기 conda activate textgen 라이브러리들을 설치한다 conda install cuda pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia/label/cuda-11.7.0 이제 깃헙에서 받아오자 git clone https://github.com/oobabooga/text-generation-webui.git pip install ninja cd text-generation-webui pip install -r requirements.txt 위와 같은 에러가 뜬다. 한번 잡아보자. htt..