토토 추천는 1969 년에 설립되어 미국 캘리포니아 주 산타 클라라에 본사를두고 있으며 전 세계적으로 28,000 명 이상의 직원을 보유한 세계 최고의 고성능 및 적응 형 컴퓨팅 회사로 성장했습니다 (2025 년 3 월 현재). 이 회사의 제품은 CPU, GPU, FPGA, DPU 및 시스템 수준 칩을 다루고 클라우드, 에지 및 터미널 장치에서 널리 사용되는 강력한 소프트웨어 기능을 결합합니다.
토토 추천는 인공 지능 개발을 촉진하고, 엔드 투 엔드 AI 교육 및 추론 솔루션을 제공하고, 개방 된 생태계를 구축하며, 중국의 생태 파트너와 적극적으로 협력하여 산업의 디지털 혁신을 돕기 위해 노력하고 있습니다.
중국은 토토 추천의 글로벌 전략에 중요한 시장입니다. 1993 년에 중국에 입국 한 이후 토토 추천는 제품 판매, 전략적 협력, 신제품 개발 등을 포함하여 중국에 대한 투자를 지속적으로 확대했습니다. 그레이터 중국 본부는 2004 년에 설립되었으며 현재 Pan Xiaoming 수석 부사장이 이끌었습니다.
2006 년 토토 추천는 상하이에 R & D 센터를 설립했습니다. 상하이 R & D 센터를 본체로 보유한 China R & D Center는 점차적으로 성장하고 자랐습니다. 이제는 글로벌 R & D 시스템의 중요한 부분이되었습니다. 칩 설계, 소프트웨어 개발 및 시스템 테스트를 다루는 4,000 명 이상의 R & D 직원이 있으며 현지 고객과 긴밀히 협력하여 기술 구현을 홍보했습니다. 최근 토토 추천는 AI 혁신 및 지속 가능한 개발에서 뛰어난 성과를 거두었으며 "2023 년의 탁월한 지속 가능한 혁신 기업", "2023-2024 년의 가장 존경받는 기업"및 2024 "세계 인터넷 컨퍼런스의 뛰어난 기부금 상"및 기타 영예의 타이틀을 획득했습니다.
1. 상항목 설정
첫 상 : 1 ¥ 10,000
두 번째 상 : 2 ¥ 5,000
세 번째 상 : 3 ¥ 2,000
2. 일정
(i)등록 마감일 : 2025 년 7 월 15 일24:00.
(ii)작품 제출 마감일 : 2025 년 7 월 20 일 24:00.
(iii) 등록 방법 : 오프라인 등록 방법을 사용하고 등록 마감일 전에 등록 수수료 지불을 완료하고 항목을 패키지 및 압축 한 후 오프라인 등록 양식 (첨부 파일 참조) 및 지불 바우처와 함께 공식 이메일로 보내십시오. 질문 설정 회사에 대한 기술 지원을 용이하게하기 위해 먼저 신청서를 제출하는 것이 좋습니다.
(4)등록 이메일 :cieeda@163.com
(V)유료 계정 (오프라인 송금) :
1. 계정 오픈 이름 : 중국 전자 사회
2. 계정 번호 : 9558850200000514831
자신의 작품을 성공적으로 제출하는 팀의 경우 학교는 참여 팀의 등록비를 상환합니다.
(5) 기타 :
1. 등록 마감일 후, 사무국은 팀을 구성하여 공식 웹 사이트의 정보를 개선하고 수상 인증서를 생성하며 전자 송장이 선장의 이메일로 전송됩니다.
2. 오프라인 등록은 마감일 만 연장하며 다른 일정에 영향을 미치지 않습니다.
3. 질문 설명
질문 1 :
Radeon ™ 플랫폼의 ROCM을 기반으로 한 대형 언어 모델 배포 성능 최적화
1. 질문 설명 :
토토 추천 ROCM 소프트웨어 스택의 RDNA3 아키텍처 지원을 지속적으로 개선함으로써 토토 추천 Radeon ™ Pro W7000 시리즈 워크 스테이션 그래픽 카드는 전문가와 크리에이티브를 위해 설계된 전문가를 위해 설계된 효과적이고 경제적 인 솔루션이 커지고 있습니다. 현재 ROCM과 W7000 시리즈 워크 스테이션 GPU의 조합은 업계에서 대부분의 주류 모델과 배포 프레임 워크를 지원했습니다.
이 제안은 참가자가 단일 W7000 워크 스테이션 GPU가 장착 된 플랫폼에서 VLLM 프레임 워크를 사용하여 DeepSeek-R1-Distill-Qwen-7B 모델의 성능을 최적화해야합니다.
제안 된 최적화 방향은 다음과 같은 다음과 같습니다.
공통 연산자의 실행 효율을 향상시키고 (예 : Elementwise, GEMM 등) 배포 파이프 라인에서 연산자의 융합 최적화를 수행합니다.
Radeon ™의 ROCM은 AWQ, Marlin 등과 같은 많은 정량적 방법을 지원합니다
알고리즘에서 사용하는 계산 커널 (예 :주의, MOE 등)을 최적화합니다.
2. 요구 사항 제출 :
참가자는 지정된 코드 저장소 (예 : VLLM, Pytorch, Triton 등)를 기반으로 코드 변경을 수행하고 로컬 컴파일 및 확인 후 코드 패치를 제출하고 로컬 테스트 결과로 표시된 성능 개선을 첨부해야합니다. 성능 향상은 배포 매개 변수 조정에 의존하기보다는 코드 수정을 기반으로합니다. 특정 매개 변수는 기술 지원 섹션을 참조하십시오.
2.1 질문 제출 요구 사항 (예비 경쟁)
기술 논문 - 단어 문서 (필수)
비디오 파일, 3 분으로 제한 (필수)
도어 타입 디스플레이 랙, 크기 180cm*80cm (필수)
데모 지침 - PPT 문서 (선택 사항)
2.2 질문 제출 요구 사항 (결승)
기술 논문 - Word Documents (필수)
데모 지침 - PPT 문서 (필수)
3. 점수 기준 :
제출 된 모든 코드는 Radeon ™ 플랫폼의 ROCM에서 균일하게 확인되며 성능 향상의 규모에 따라 순위가 매겨집니다.
기본 점수 = 최적화 진폭 퍼센트 x 100
Plus : (토토 추천 배심원의 득점)
혁신 (5 점) : 최적화 계획의 독창성과 복잡성.
실용성 (5 포인트) : ROCM 생태 홍보에 대한 최적화 계획의 긍정적 인 효과.
가독성 (2 포인트) : 최적화 계획에 대한 자세한 정교화 문서 또는 PPT를 제출하십시오.
4. 하드웨어 플랫폼 구성 :
(등록 검토 후 클라우드 서비스 신청서 알림)
5. 비디오 튜토리얼 :
8 카드에서 DeepSeek R1을 실행합니다. 토토 추천 W7800
링크 : https://www.bilibili.com/video/bv1i8j3zjexm
6. 지역 개발 환경 :
토토 추천 Radeon ™ Pro W7800
7. 기술 지원 :
QR 코드를 스캔하여 경쟁 질문 1 경쟁 커뮤니케이션 QQ 그룹 :
8. 소프트웨어 환경 :
벤치 마크 튜토리얼 (예로 VLLM 수정)
(1) DeepSeek-R1-Distill-Qwen-7B 모델 및 sharegpt_v3_unfiltern_cleaned_split.json dataSet
(2) Pytorch-on-Rocm Docker Image를 사용하여 컨테이너를 만드는 것이 좋습니다.
(3) 컨테이너에 로컬 수정으로 Vllm을 설치하십시오.
(4) 시작 vllm 서버
(1) 벤치 마크를 실행하고 결과를 관찰하십시오
9. 관련 링크 :
• 토토 추천 RADEON ™ PRO W7800 전문 그래픽 사양 :
https : //www.토토 추천.com/en/products/graphics/workstations/radeon-pro/w7800.html
• 시작 가이드 : Radeon ™ GPUS에서 토토 추천 ROCM ™ 소프트웨어 사용 :
https : //www.토토 추천.com/en/developer/resources/ml-radeon.html
• 토토 추천 gpus에서 vllm과 함께 추론 및 봉사 :
https : //rocm.blogs.토토 추천.com/artificial-intelligence/vllm/readme.html
질문 2 : 토토 추천 AI PC를 기반으로 한 AI 응용 프로그램 개발 (무료 제안)
1. 질문 설명 :
AI PC (Artificial Intelligence Personal Computer)는 AI 기술을 통합하는 개인용 컴퓨터입니다. 로컬 컴퓨팅 파워, 자연어 상호 작용 및 개인화 된 대형 모델과 같은 핵심 기능을 통해 전통적인 PC의 경험을 재구성하고 도구에서 "개인 지능형 보조"로 업그레이드합니다.
참여 팀은 토토 추천의 지정된 APU 제품을 사용하여 AI 응용 프로그램을 개발하여 다음 분야에 중점을 둡니다 (포함하지만)에 중점을 둡니다.
• AI 응용 프로그램 전문 분야
• AI 응용 프로그램 일상 생활 엔터테인먼트
• AI PC와 다른 스마트 장치와의 링크 및 통합
2. 질문 요구 사항 :
2.1 하드웨어 환경
• AI PC 클라우드 플랫폼 액세스 (등록 및 검토 후 클라우드 서비스 신청서 알림)
모델 : Beelink SER / 프로세서 : 토토 추천 Ryzen HX370 / 메모리 : 32GB RAM / 스토리지 : 1TB SSD
• 운영 체제 : Windows 11
• AI 응용 프로그램에 따라 자체적으로 주변 장치를 설계하고 구성해야합니다
2.2 AI 응용 프로그램의 설계 및 구현
• 제공된 하드웨어 환경을 기반으로 토토 추천 권장 모델 https://huggingface.co/토토 추천 또는 자체 선택 모델을 사용하여 선택한 시나리오에서 AI 응용 프로그램 개발을 완료하십시오.
• 엔트리는 미래 지향적 인 사고와 디자인을 보여줄 혁신적인 솔루션을 제안해야합니다.
• 항목에는 실제 적용 값이 있어야합니다.
• 항목은 지역 AI 추론을 달성하기 위해 토토 추천 제품 (IGPU, NPU, CPU)의 컴퓨팅 전력 장점에 대한 전체 플레이를해야합니다.
• 보너스 : 전력 활용의 에너지 효율을 향상시키기 위해 로컬 AI 컴퓨팅 파워를 최대한 활용하십시오.
2.3 질문 제출 요구 사항 (예비 경쟁)
• 기술 논문 - 단어 문서 (필수)
• 비디오 파일, 3 분으로 제한 (필수)
• 도어 타입 디스플레이 프레임, 크기 180cm*80cm (필수)
• 데모 지침 - PPT 문서 (선택 사항)
2.4 질문 제출 요구 사항 (최종)
• 기술 논문 - 단어 문서 (필수)
• 데모 지침 - PPT 문서 (필수)
3. 점수 기준 :
3.1 기술 혁신 및 실용성 30%
• AI 응용 프로그램을 기반으로 한 모델 (또는 모델 그룹)
• 혁신적인 솔루션 제안
• 실제 문제를 효과적으로 해결할 수 있습니다
• 복잡성 및 컴퓨팅 효율성
예 : 이미지 분류에 딥 러닝 기술을 사용하는 모델은 정확도가 90%를 초과하고 계산 속도가 기존 메소드보다 빠릅니다.
3.2 AI 응용 프로그램과 사용자 간의 상호 작용 수준 20%
예 : 사용자의 악센트와 톤에 적응하고 직관적 인 인터페이스를 제공 할 수있는 음성 보조 모델은 높은 점수를 얻습니다.
3.3 종이, ppt 선명도 및 논리 20%
• 문헌 검토는 포괄적이고 정확합니다
• 메소드 설명은 명확하고 이해하기 쉽습니다
• 결과는 합리적이고 설득력이 있습니다
3.4 기능적 무결성 + 안정성 15%
• 예정된 모든 작업을 완료
• 작동 속도 및 안정성
예 : 고품질 텍스트를 생성하고 빠르고 안정적으로 실행할 수있는 텍스트 생성 모델은 높은 점수를 얻습니다.
3.5 데모 (라이브 브로드 캐스트, 사전 녹음 된 비디오 등) 10%
• 응용 프로그램의 기능과 성능을 명확하게 보여줍니다
• 사용자가 앱을 쉽게 이해하고 사용하도록 도울 수 있습니다
예 : 얼굴을 빠르고 정확하게 인식하고 친근한 인터페이스를 제공 할 수있는 얼굴 인식 모델은 높은 점수를 얻습니다.
3.6은 사용자 개인 정보 보호 데이터 보호 5%
• 사용자 개인 정보 보호 데이터 수집 및 저장 여부
• 사용자의 로컬 개인 정보 보호 데이터가 암호화 되었습니까
• 로컬로 저장된 개인 정보 보호 데이터가 네트워크에 업로드됩니다
• 명확한 개인 정보 보호 정책 및 이용 약관이 있습니까
예 : 사용자 개인 정보 보호 데이터를 수집하지 않고 분석을 완료하고 명확한 개인 정보 보호 정책을 제공하는 경우 높은 점수를 얻는 소셜 미디어 분석 모델.
4. 참조 링크 :
• 토토 추천 AI 솔루션 :
https : //www.토토 추천.com/en/solutions/ai.html
• Windows의 토토 추천 HIP SDK :
https : //rocm.docs.토토 추천.com/projects/install-on-windows/en/latest/index.html
• 토토 추천 Ryzen AI :
https : //ryzenai.docs.토토 추천.com/en/latest/index.html
5. 질문 2 경쟁 커뮤니케이션 QQ 그룹 :
