1주일 전부터 위 사이트에서 성능이 무시무시하다는 also GPT2를 접하고 나는 간간히 사용하고 있었는데
방금 5/14 새벽 2시 open-ai 발표 보고 놀랐다.
새로 발표하는 GPT-4o가 also GPT2였던 것(?)
진짜 벤치마크가 이렇게 차이 날 줄은 몰랐는데
또한 실시간 화면 감지, 리얼타임 대화 등 보면서 속도가 말이 안 된다고 생각했다.
그리고 방송이 끝나고 바로 API가 풀렸다고 해서 내 서비스인 RESTFUL API 서비스에 적용해 봤다.
기존에는 gpt-3-turbo와 gpt-4 모델만 사용했었고 테스트 결과
응답 시간이 거의 1/3으로 확 줄어버렸다.
영상 보니깐 통역사는 여기서 사라진다고 말하는 느낌이 들었다... 너무 빠른 응답속도다
분명 학습이나 프로젝트에서 유용하게 쓰이겠지만 얼마나 의존하냐에 따라 미래가 좌우될 것 같다.
ai를 잘 쓰는 것도 좋지만 이해하고 쓰냐의 문제가 아직은 더 크다고 생각한다.
반응형
'기타' 카테고리의 다른 글
API에 대한 로깅을 어떻게 찍는 게 좋을까?(인터셉터, 필터, AOP) (0) | 2024.09.15 |
---|---|
SSAFY를 수료하고 7개월만에 취업 (취준 1년 7개월) (7) | 2024.07.24 |
서비스에서 서비스로 트랜잭션 전파를 알아보자(궁금증) (1) | 2024.03.25 |
GenerationType.IDENTITY는 정말로 쓰기 지연이 안 먹힐까? (0) | 2024.03.25 |