STARTUP MỸ RA MẮT CHIP AI MẠNH GẤP 20 LẦN NVIDIA H100

Startup Etched, trụ sở tại San Francisco, tuyên bố mẫu chip AI Sohu có sức mạnh gấp 20 lần so với H100 của Nvidia.


>> RYZEN AI 300 ĐƯỢC THIẾT KẾ HOÀN HẢO CHO DÒNG LAPTOP COPILOT+

>> MEDIATEK DỰ KIẾN SẼ SẢN XUẤT CHIP ARM PC TRONG NĂM SAU


Công bố ngày 26/6, Sohu là một dạng mạch tích hợp dành riêng cho ứng dụng (ASIC). Theo Etched, chip đánh bại GPU H100 của Nvidia về khả năng suy luận trong mô hình ngôn ngữ lớn (LLM). Một hệ thống với 8 chip Sohu có thể đạt hiệu suất tương đương 160 H100.

Etched cho biết các hệ thống tăng tốc AI hiện tại, dù là CPU hay GPU, đều được thiết kế để hoạt động với các kiến trúc AI khác nhau. Chúng hỗ trợ nhiều mô hình khác nhau, như Mạng thần kinh tích chập (Convolution Neural Network), Mạng bộ nhớ ngắn hạn (Short-term Memory Network) hay mô hình không gian trạng thái (State Space Model). “Bởi các mô hình này được điều chỉnh theo kiến trúc khác nhau, hầu hết chip AI hiện tại đều phân bổ phần lớn sức mạnh tính toán của chúng cho khả năng lập trình”, đại diện Etched giải thích.

Etched ước tính, GPU H100 của Nvidia chỉ sử dụng 3,3% số bóng bán dẫn cho tác vụ chính, còn 96,7% còn lại được sử dụng cho các tác vụ khác. Đây là sự lãng phí lớn, dù vẫn cần thiết trên các chip AI đa năng.

Do đó, công ty khởi nghiệp đưa vào Kiến trúc AI biến áp (kiến trúc Transformer) vào Sohu, cho phép phân bổ nhiều bóng bán dẫn hơn cho tính toán trí tuệ nhân tạo trên chip. Thay vì tạo một chip có thể đáp ứng mọi kiến trúc AI đơn lẻ, họ cố gắng tạo sản phẩm được tối ưu hóa để chạy một dạng mô hình AI cụ thể. Thực tế, kiến trúc Transformer cũng là nền tảng của GPT (Generative Pre-trained Transformer), tương tự với Sora, Gemini, Stable Diffusion và Dall-E.

 

“Đây là canh bạc của chúng tôi”, Gavin Uberti của Etched nói với Reuters về việc đặt cược vào kiến trúc Transformer. “Nếu Transformer biến mất, công ty chúng tôi sẽ chết. Nhưng nếu tiếp tục tồn tại, chúng tôi có tiềm năng trở thành một trong những công ty lớn nhất mọi thời”.

Etched chưa công bố giá của Sohu. Trong khi đó, đối thủ Nvidia H100 hiện có giá 40.000 USD.

Tom’s Hardware đánh giá, các trung tâm xử lý dữ liệu có thể tiết kiệm hàng tỷ USD chi phí ban đầu và chi phí vận hành nếu Sohu đáp ứng được kỳ vọng. Sản phẩm này thậm chí đe dọa vị thế dẫn đầu của Nvidia. Tuy vậy, mọi thứ sẽ chỉ được chứng minh khi chip của Etched đi vào vận hành.

Nguồn: VnExpress

BÀI VIẾT LIÊN QUAN

RYZEN X3D SẼ ĐƯỢC TRANG BỊ TRÊN LAPTOP GAMING MỚI CỦA MSI

MSI Titan 18 Pro là máy tính xách tay thứ hai được trang bị Ryzen 9 7945HX3D, với đặc trưng 3D V-Cache của AMD. >> STEAM KẾT HỢP VỚI BÊN THỨ 3 ĐỂ TẠO RA TAY CẦM MỚI >> STARTUP MỸ RA MẮT CHIP AI MẠNH GẤP 20 LẦN NVIDIA H100 Bộ xử lý Ryzen

Xem chi tiết

STEAM KẾT HỢP VỚI BÊN THỨ 3 ĐỂ TẠO RA TAY CẦM MỚI

Hori là người được lựa chọn để phát triển controller chính thức của Steam dự kiến sẽ bắt đầu phân phối vào ngày 31 tháng 10 tại Nhật Bản. >>MEDIATEK DỰ KIẾN SẼ SẢN XUẤT CHIP ARM PC TRONG NĂM SAU >>STARTUP MỸ RA MẮT CHIP AI MẠNH GẤP 20 LẦN NVIDIA H100 Nguồn: Hori

Xem chi tiết

MEDIATEK DỰ KIẾN SẼ SẢN XUẤT CHIP ARM PC TRONG NĂM SAU

Theo Reuters, tin đồn về việc Mediatek đang tạo một bộ xử lý Arm cho PC đã thành sự thật. >> NVIDIA APP NHẬN ĐƯỢC BẢN NÂNG CẤP MỚI ĐẦY THÚ VỊ >> RYZEN AI 300 ĐƯỢC THIẾT KẾ HOÀN HẢO CHO DÒNG LAPTOP COPILOT+ Theo một số nguồn tin, bộ xử lý này sẽ

Xem chi tiết

RYZEN AI 300 ĐƯỢC THIẾT KẾ HOÀN HẢO CHO DÒNG LAPTOP COPILOT+

AMD ra mắt dòng chip mới Ryzen AI 300, một bộ xử lý mobile với NPU mà AMD cho rằng đang dẫn đầu thị trường mới sức mạnh AI lên đến 50 TOPS. >> NVIDIA APP NHẬN ĐƯỢC BẢN NÂNG CẤP MỚI ĐẦY THÚ VỊ >> NVIDIA RA MẮT AI HỖ TRỢ CHƠI GAME G-ASSIST

Xem chi tiết

NVIDIA APP NHẬN ĐƯỢC BẢN NÂNG CẤP MỚI ĐẦY THÚ VỊ

Nvidia App là sự kết hợp giữa Nvidia Control Panel và GeForce Experience trong một giao diện đồng nhất để nâng cấp trải nghiệm chơi game của người dùng. >> NVIDIA RA MẮT AI HỖ TRỢ CHƠI GAME G-ASSIST >> COPILOT AI CÓ THỂ TRỞ THÀNH MỘT ỨNG DỤNG RIÊNG BIỆT Ứng dụng này vẫn

Xem chi tiết

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *