1주일 전부터 위 사이트에서 성능이 무시무시하다는 also GPT2를 접하고 나는 간간히 사용하고 있었는데
방금 5/14 새벽 2시 open-ai 발표 보고 놀랐다.
새로 발표하는 GPT-4o가 also GPT2였던 것(?)
진짜 벤치마크가 이렇게 차이 날 줄은 몰랐는데
또한 실시간 화면 감지, 리얼타임 대화 등 보면서 속도가 말이 안 된다고 생각했다.
그리고 방송이 끝나고 바로 API가 풀렸다고 해서 내 서비스인 RESTFUL API 서비스에 적용해 봤다.
기존에는 gpt-3-turbo와 gpt-4 모델만 사용했었고 테스트 결과
응답 시간이 거의 1/3으로 확 줄어버렸다.
영상 보니깐 통역사는 여기서 사라진다고 말하는 느낌이 들었다... 너무 빠른 응답속도다
분명 학습이나 프로젝트에서 유용하게 쓰이겠지만 얼마나 의존하냐에 따라 미래가 좌우될 것 같다.
ai를 잘 쓰는 것도 좋지만 이해하고 쓰냐의 문제가 아직은 더 크다고 생각한다.
반응형
'기타' 카테고리의 다른 글
서비스에서 서비스로 트랜잭션 전파를 알아보자(궁금증) (1) | 2024.03.25 |
---|---|
GenerationType.IDENTITY는 정말로 쓰기 지연이 안 먹힐까? (0) | 2024.03.25 |
어떻게 HTTP는 로그인된 상태를 판단할까? (0) | 2024.02.07 |
분명 JPA에서는 쿼리를 모았다가 날리는 걸로 알았는데? (0) | 2024.02.06 |