AWS re:Invent 2024 2일차 키노트 내역 정리

후반 내역이 빠진것들이 좀 있지만, 앞에 내용도 좋은 것들이 많아서 내용에 대해서 공유를 할까 합니다.

 

대기

Matt Garman의 기조연설 때문인지 대부분 사람들이 아침밥을 포기하고 모였습니다.

8시 출발인데도 세션장 앞까지 줄이 길게 서 있습니다.

문제는 뒤에는 더 많다는 것!

Compute

맷 가먼이 등장하여 컴퓨팅에 대한 이야기를 하고 있습니다. 하지만 끝이 비었군요?

정답은 블랙웰 GPU를 지원하는 p6가 생겼습니다.

공식 문건이 확인되지 않아, 현재는 같이 왔던 기자분들이 정리한 기사를 첨부해보겠습니다.

https://www.datacenterdynamics.com/en/news/aws-announces-ec2-ultraservers-with-trainium2-chips-and-ec2-instances-with-blackwell-gpus/

 

이것은 머신러닝 트레이닝용 서버인 Trn2입니다. gpu 베이스에 30 ~ 40% 가격이 저렴한 인스턴스가 출시됩니다.

4대까지 붙여서 뉴런링크를 구성할 수 있고 엄청난 양의 처리를 진행합니다.

 

AWS와 Anthropic과 협업하여 세상에서 가장 큰 ML Clustering을 구성하겠다라고 합니다.

곧 Trn3가 출시된다고 합니다!

Storage

가장 좋았던 기능 중 하나입니다.

S3에 저장된 데이터에 메타정보가 들어가 있지 않아서 예전 이미지들을 지워야 할지 말아야 할지 고민했던 기억 있으셨을 겁니다.

또한 DB와 이미지 메타정보가 일치하지 않아서 매칭해야 할 파일을 찾기 어려울때가 많았습니다.

그땐 일일이 파일을 손으로 찾아내는 과정을 했어야 하는데, 이젠 그렇게 하지 않아도 되었습니다.

자동으로 기본 메타데이터를 채워넣습니다.

이 정보를 기반으로 iceberg기반 테이블에서 검색하도록 하는 기능을 지원합니다. S3에 오브젝트가 많은 경우 꽤 빠르게 검색하고 필요한 데이터를 빠르게 찾아낼 것으로 예상됩니다.

 

Database

https://aws.amazon.com/ko/blogs/database/introducing-amazon-aurora-dsql/

Introducing Amazon Aurora DSQL | Amazon Web Services

 

SQL을 지원하는 새로운 Database입니다.

DynamoDB가 Multi-Region을 지원합니다.

 

AI

간결한 모델을 생성할 수 있게 되었습니다.

https://aws.amazon.com/ko/bedrock/model-distillation/

Amazon Bedrock Model Distillation - AWS

 

기존의 AI 모델은 엄청나게 크고 복잡했습니다.

이것은 기본 모델과 꼭 필요한 데이터셋만을 가지고 경량화된 모델을 이용하면 비용을 꽤 많이 절약할 수 있습니다.

Bedrock의 할루시네이션을 방지하기 위한 기술이 접목됩니다.

https://aws.amazon.com/ko/blogs/aws/prevent-factual-errors-from-llm-hallucinations-with-mathematically-sound-automated-reasoning-checks-preview/

Prevent factual errors from LLM hallucinations with mathematically sound Automated Reasoning checks (preview) | Amazon Web Servi

명확한 근거가 존재하지 않을때까지 반환이 되지 않습니다.

답변이 명확해지는 만큼 답변이 늦어질 수는 있습니다. 하지만 좀 더 명확한 답변을 내린다라는 부분에서 신뢰성이 강조되는 어플리케이션의 경우엔 더욱 좋은 기능입니다.

이번엔 multi-agent collaboration입니다.

https://aws.amazon.com/ko/blogs/aws/introducing-multi-agent-collaboration-capability-for-amazon-bedrock/

Introducing multi-agent collaboration capability for Amazon Bedrock (preview) | Amazon Web Services

복잡한 의사결정을 위한 한가지의 agent가 아닌 여러가지 agent를 복합적으로 이용하여 답변의 신뢰성을 높이고 좀 더 정확한 답변ㅇ르 하도록 보장하는 기능입니다.

아마존의 앤디 제시가 Amazon의 다양한 AI를 설명했습니다.

미친기능이 또 하나 나와버렸습니다!

https://aws.amazon.com/ko/blogs/aws/introducing-amazon-nova-frontier-intelligence-and-industry-leading-price-performance/

Introducing Amazon Nova: Frontier intelligence and industry leading price performance | Amazon Web Services

micro 결과

Pro의 결과

제가 원하던 그 기능!

https://aws.amazon.com/ko/ai/generative-ai/nova/

Generative Foundation Model - Amazon Nova - AWS

기존에는 이미지 생성 (Titan)이 있긴 했지만 그렇게까진 인기는 없었고, 비디오 생성모델은 아예 없었습니다.

하지만 이젠 지원할 수 있게 되었습니다.

동영상 작업할때 쓰던 runway 일단 바른 모습!

Nova의 새로운 프로젝트입니다!

Developer

개발자들을 위한 툴 중 요새 밀고 있는 건 Q입니다.

그래서 그런지 뒤에도 양을 좀 할애한 부분이 있습니다.

 

유닛 테스트, 문서화, 코드리뷰가 가능합니다.

Gitlab에서 연동이 된다고 합니다.

.net도 지원하게 됩니다.

vmware

이제 메인프레임까지 하시게요?

Cloudwatch를 이용하여 코드를 환경과 함께 비교하여 문제를 분석하는 기능이 추가됩니다.

Q Business Data와 QuickSight를 연동할 수 있습니다.

외부업체에 대한 보안적 경계와 권한을 구축할 수 있습니다.

Q Business는 워크플로우 자동화도 가능하답니다.

감기 기운이 있는지 몸이 좋지 않아 탈주하는데 뒤에 통역분들과 기자분들이 계셨던듯 합니다.

점심을 먹으러 줄을 서보았습니다만, 언제 먹죠...

2일차 점심은 이런 모습입니다. 2일차 아침은 먹지 못했습니다 ㅠㅠㅠ

요약

아래는 주요 업데이트를 링크 클릭 가능하게 정리한 내용입니다:

1. 컴퓨팅 부문: AWS는 자체 개발한 Trainium2 칩을 탑재한 EC2 '울트라서버'를 발표했습니다. 이는 AI 모델 훈련을 위한 성능 향상을 제공합니다.
2. AI 모델: 'Nova'라는 새로운 AI 모델 시리즈를 공개하여 텍스트, 이미지, 비디오 생성 기능을 강화했습니다.
3. 협업 강화: AI 스타트업 Anthropic과의 협력을 통해 세계 최대 규모의 AI 컴퓨팅 클러스터를 구축할 계획입니다.
4. 스토리지 개선: S3에 저장된 데이터에 자동으로 메타데이터를 추가하여 데이터 관리와 검색 효율성을 높였습니다.
5. 데이터베이스 업데이트: Amazon Aurora DSQL을 도입하여 서버리스 분산 SQL 데이터베이스의 성능을 향상시켰습니다.
6. AI 모델 경량화: Amazon Bedrock의 모델 증류(Model Distillation) 기능을 통해 AI 모델을 경량화하여 비용 효율성을 높였습니다.
7. AI 안전성 강화: 자동 추론 검사를 통해 LLM의 할루시네이션을 방지하여 AI 응답의 정확성을 향상시켰습니다.
8. 멀티 에이전트 협업: Amazon Bedrock에서 복잡한 작업 처리를 위해 여러 에이전트가 협업할 수 있는 기능을 도입했습니다.
9. 멀티 리전 지원: DynamoDB의 멀티 리전 지원을 통해 글로벌 애플리케이션의 가용성과 성능을 개선했습니다.
10. AI 기반 애플리케이션 전환: AI를 활용하여 Microsoft Windows 기반 애플리케이션을 Linux로 자동 변환하는 도구를 발표하여 플랫폼 전환을 용이하게 했습니다.

뒷부분은 다음 게시물에 있습니다. 아래를 클릭해주세요.
https://tabmania.tistory.com/entry/AWS-reInvent-2024-Day-2

AWS re:Invent 2024 Day 2