인공지능기술 2

귀찮은 설명 없이 바로 알려드립니다! AI 추론 비용 확 줄이는 CoD 기술

AI가 말을 너무 많이 해서 돈이 많이 든다구요? 이제 그럴 필요 없어요! AI 기술이 발전할수록 더 똑똑해지는 건 좋은데, 그만큼 돈이 많이 들어가는 게 문제였어요. 대형언어모델(LLM)이 길게 답변할수록 그만큼 비용도 늘어났거든요.  반가운 소식! 최근 줌 커뮤니케이션에서 기존 사고 사슬(CoT) 방식을 개선한 드래프트 사슬(CoD) 기술을 발표했어요. 이 기술을 쓰면 같은 문제를 더 짧게 해결하면서도 비용은 최대 80% 이상 줄일 수 있다고 합니다! CoT vs CoD, 뭐가 다른 걸까요? CoT (사고 사슬) 1. 문제 이해하기2. 관련 지식 떠올리기3. 접근 방법 찾기4. 단계별로 풀어나가기5. 최종 답안 도출6. 답안 검증하기7. 토큰 많음 / 비용 높음 CoD (드래프트 사슬) 1. 핵심만 ..

IT news 2025.03.04

그록-3, 세계 최고 AI라더니… 진짜 맞아? 아님 또 허세?

"머스크가 또 AI를 만들었다고? 이젠 최고라고? 이거 뭔가 수상한데?" 여러분, 요즘 세상이 AI 없으면 안 굴러간다는 거 실감하시죠? 검색하면 AI가 답해주고, 그림 그려달라면 몇 초 만에 명작을 뚝딱 만들고, 이젠 심지어 요리까지 AI가 한다고 하던데… 그런데 말입니다. 이번엔 머스크 형님께서 "우리 AI가 세계 최고야!"라고 선언하셨습니다. 이름도 뭐라고요? 그록-3(Grok-3). 아니, 이건 또 무슨 외계어 같은 이름이죠? 그런데 이거 진짜 최고 맞나요? 아니면 또 머스크식 과장 마케팅일까요? 이쯤 되면 한 번 제대로 뜯어봐야겠죠? 1. 그록-3? 이름부터 수상한데? 일단 이 이름부터 좀 이상합니다. "그록(Grok)"? 찾아보니까, 1961년에 나온 소설 ‘이방인(Stranger in a S..

IT news 2025.02.23