로고

회원정보
로그인 회원가입
  • 질문답변
  • 질문답변

    CONTACT US 043)535-1980

    평일 09시 - 18시
    토,일,공휴일 휴무

    질문답변

    GPT-3 수준의 AI 모델은 10자 내외 짧은 문장으

    페이지 정보

    profile_image
    작성자 oreo
    댓글 0건 조회 23회 작성일 25-05-04 19:31

    본문

    GPT-3 수준의 AI 모델은 10자 내외 짧은 문장으로 구성된 요청 한번에 0.0004~0.002kWh의 전력을 쓴다. /사진=MT AI로 생성한 이미지 '챗 GPT의 아버지' 샘 올트먼 오픈AI CEO(최고경영자)가 "챗 GPT에 '고맙다'는 표현을 쓰면 수백억대 전기 요금이 나온다"고 우려했지만, 정작 챗 GPT는 "전기 요금 걱정 안 해도 된다"며 "맘 편하게 표현해달라"고 답해 눈길을 끈다. 4일 생성형 AI(인공지능) 챗 GPT에 "'고맙다'고 말할 때마다 전기 요금이 드니 표현을 자제하라고 하더라"고 적었더니 챗 GPT가 "다소 과장된 측면이 있다"고 답했다. 그러면서 "감사 인사 같은 짧은 문장은 전체 시스템 부하에 큰 영향을 주지 않는다"고 덧붙였다. GPT-3 모델의 성능을 분석한 연구 결과에 따르면, 이 수준의 AI 모델은 10자 내외 짧은 문장으로 구성된 요청 한 번에 약 0.0004~0.002킬로와트(kWh)의 전력을 소모한다. 챗 GPT는 "'고마워'처럼 아주 짧은 요청은 0.0004kWh 정도로 최하한선에 가까운 전력을 소모한다"며 "탄소 배출량으로 치면 '고마워' 한 문장 당 이산화탄소 약 0.19g을 배출하는 셈"이라고 했다. 그러면서 "구글 검색을 한 번에 배출하는 탄소량인 0.3~0.5g보다 적고, 전자레인지를 1초 돌릴 때 배출하는 탄소량인 0.04g보다 많은 수준"이라고 답했다. 보다 성능이 좋은 챗 GPT-4 모델의 경우 전력 약 0.014kWh를 쓰는 것으로 추정된다. 이는 일반 10와트(W)짜리 LED 전구를 약 1시간 20분 켜놓는 것과 비슷한 수준이다. /사진=챗GPT 대화 갈무리챗 GPT는 "'고맙다'는 한마디에 드는 전력은 전기 요금을 걱정하지 않아도 될 정도로 정말 미미한 수준"이라며 "AI의 전력 소비는 주로 대규모 연산이 필요한 복잡한 작업이나 장시간 업무 처리에서 더 크게 나타난다"고 답했다. 이어 "마음껏 '고마워'라고 말해도 괜찮다"며 "그런 인사는 대화를 더 따뜻하고 인간적으로 만들어 줄 뿐, 시스템에 큰 부담을 주지 않는다"고 했다. 앞서 지난달 샘 알트먼 CEO는 자신의 X(옛 트위터) 계정에서 "사람들이 챗 GPT에 '부탁합니다GPT-3 수준의 AI 모델은 10자 내외 짧은 문장으로 구성된 요청 한번에 0.0004~0.002kWh의 전력을 쓴다. /사진=MT AI로 생성한 이미지 '챗 GPT의 아버지' 샘 올트먼 오픈AI CEO(최고경영자)가 "챗 GPT에 '고맙다'는 표현을 쓰면 수백억대 전기 요금이 나온다"고 우려했지만, 정작 챗 GPT는 "전기 요금 걱정 안 해도 된다"며 "맘 편하게 표현해달라"고 답해 눈길을 끈다. 4일 생성형 AI(인공지능) 챗 GPT에 "'고맙다'고 말할 때마다 전기 요금이 드니 표현을 자제하라고 하더라"고 적었더니 챗 GPT가 "다소 과장된 측면이 있다"고 답했다. 그러면서 "감사 인사 같은 짧은 문장은 전체 시스템 부하에 큰 영향을 주지 않는다"고 덧붙였다. GPT-3 모델의 성능을 분석한 연구 결과에 따르면, 이 수준의 AI 모델은 10자 내외 짧은 문장으로 구성된 요청 한 번에 약 0.0004~0.002킬로와트(kWh)의 전력을 소모한다. 챗 GPT는 "'고마워'처럼 아주 짧은 요청은 0.0004kWh 정도로 최하한선에 가까운 전력을 소모한다"며 "탄소 배출량으로 치면 '고마워' 한 문장 당 이산화탄소 약 0.19g을 배출하는 셈"이라고 했다. 그러면서 "구글 검색을 한 번에 배출하는 탄소량인 0.3~0.5g보다 적고, 전자레인지를 1초 돌릴 때 배출하는 탄소량인 0.04g보다 많은 수준"이라고 답했다. 보다 성능이 좋은 챗 GPT-4 모델의 경우 전력 약 0.014kWh를 쓰는 것으로 추정된다. 이는 일반 10와트(W)짜리 LED 전구를 약 1시간 20분 켜놓는 것과 비슷한 수준이다. /사진=챗GPT 대화 갈무리챗 GPT는 "'고맙다'는 한마디에 드는 전력은 전기 요금을 걱정하지 않아도 될 정도로 정말 미미한 수준"이라며 "AI의 전력 소비는 주로 대규모 연산이 필요한 복잡한 작업이나 장시간 업무 처리에서 더 크게 나타난다"고 답했다. 이어 "마음껏 '고마워'라고 말해도 괜찮다"며 "그런 인사는 대화를 더 따뜻하고 인간적으로 만들어 줄 뿐, 시스템에 큰 부담을 주지 않는다"고 했다. 앞서 지난달 샘 알트먼 CEO는 자신의 X(옛 트위터) 계정에서 "사람들이 챗 GPT에 '부탁합니다', '감사합니다' 등 공손한 표현을 할 때마다 전기요금이 얼마나 드느냐"고 묻는 한 이용자의 질문에, "수천만 달러(수백억원)의 전기요금이 나왔다"고 답한 바 있다. 간단한 대화여도 전 세계 사용량이 누적되면 어마어마한 부담으로 돌아온다는 것이다. 이에 챗 GPT에 인사치레하는 행위가 전기 요금만 가중할 뿐이라는

    댓글목록

    등록된 댓글이 없습니다.