AI thông minh hơn nhưng cần nhiều bộ nhớ và dung lượng lưu trữ hơn

Sanjay đã có một số điều muốn nói về ngành công nghiệp bán dẫn và đặc biệt là ngành công nghiệp bộ nhớ bán dẫn. Ông nói rằng chất bán dẫn tạo thành xương sống của mọi thứ trên thế giới ngày nay. 20-30% nền kinh tế toàn cầu được cung cấp bởi chất bán dẫn, trực tiếp hoặc gián tiếp. Ngành công nghiệp bán dẫn đang phát triển nhanh hơn GDP trong suốt phần còn lại của thập kỷ này. Micron là nhà sản xuất bộ nhớ, DRAM và NAND flash duy nhất của Hoa Kỳ.

Rene nói rằng AI là động lực lớn nhất cho sự tăng trưởng của chất bán dẫn, đề cập đến AI tổng quát như Chat GPT. Đây là một cơ hội lớn, nhưng để kích hoạt nó, chúng tôi sẽ cần xử lý dữ liệu hiệu quả hơn, điều mà Arm được biết đến. Ông nói rằng mức sử dụng năng lượng của trung tâm dữ liệu trên toàn thế giới hiện nay là khoảng 1-2% tổng năng lượng được sản xuất nhưng ở một số quốc gia, con số này là gần 10%, điều này không bền vững. Các trung tâm dữ liệu mới đang được xây dựng với bất động sản cố định và nguồn điện sẵn có, điều này sẽ đòi hỏi các thiết bị điện tử hiệu quả hơn để đáp ứng nhu cầu ngày càng tăng.

Sanjay nói rằng AI tổng quát và AI tinh vi khác sẽ thúc đẩy nhu cầu về bộ nhớ. Anh ấy nói rằng máy chủ Trò chuyện GPT cần nhiều hơn 5 bộ nhớ so với máy chủ tiêu chuẩn. Trí tuệ nhân tạo thông minh hơn cần tính toán, bộ nhớ (nhiều dung lượng lưu trữ và bộ nhớ) và khả năng kết nối. Tất cả những điều này cần kết hợp với nhau để AI trở nên phổ biến. Công suất thấp và hiệu suất cao, bộ nhớ BW cao cũng rất quan trọng. Siêu máy tính Chat GPT nằm trong top 5 thế giới. Anh ấy đã cung cấp một số chi tiết về phần cứng cần thiết cho Chat GPT. Nó có 285.000 lõi CPU, 10.000 GPU và kết nối 400GB/giây. Ông cũng nói rằng xu hướng kết hợp bộ nhớ và máy tính thông qua đóng gói hoặc các giải pháp sáng tạo để kết hợp bộ nhớ và logic trong những năm tới.

Ronnie nói rằng Đạo luật khoa học và chip sẽ tài trợ 52,7 tỷ đô la. Đây là khoản đầu tư lớn cho ngành công nghiệp của chính phủ ở Hoa Kỳ. Anh ấy chuyển đến Nhà Trắng từ Bộ Thương mại, nơi anh ấy điều phối đạo luật CHPS. Tiền của chính phủ đang tận dụng tiền từ ngành công nghiệp tư nhân, lên tới 300 tỷ đô la kể từ khi đạo luật CHIPS được đề xuất. Ông cũng nói rằng chúng ta cần một chuỗi cung ứng rộng lớn hơn, bao gồm cả những công ty nhỏ hơn. Khu vực tư nhân có nhiều thông tin hơn khu vực công về chuỗi cung ứng.

Sanjay nói rằng ngoài 52 tỷ đô la để thu hẹp khoảng cách chi phí với sản xuất bán ở châu Á. Khoảng cách chi phí ngày nay là 35-45% đối với sản xuất ở Mỹ so với châu Á và chủ yếu là do các ưu đãi từ các chính phủ châu Á. Một yếu tố quan trọng khác của CHIPS là tín dụng thuế đầu tư. ITC lên tới 25% cũng sẽ giúp thu hẹp khoảng cách với châu Á. Cả tín dụng đầu tư và thuế đều cần thiết. Mặc dù các tấm bán dẫn bộ nhớ tạo ra khoảng 30% tổng doanh thu bán WW nhưng chúng chiếm khoảng 60% tổng số bán dẫn. CHIPS cần đầu tư vào bộ nhớ cũng như logic, cảm biến và các thiết bị khác.

Khi được hỏi về xu hướng các công ty siêu quy mô lớn thiết kế phần cứng của riêng họ, Rene nói rằng các công ty này có khối lượng công việc nội bộ lớn đòi hỏi các chức năng rất cụ thể và các công ty này có thông tin tốt nhất về cách giải quyết nhu cầu của họ. Do đó, xu hướng các nhà siêu quy mô thiết kế chip của riêng họ sẽ tiếp tục. Họ sẽ sử dụng iP ở nơi hợp lý và cũng sử dụng phần cứng có sẵn.

Ronnie nói rằng lợi ích khu vực từ đạo luật CHIPS có thể rất lớn. Nhiều người có thể làm việc tại nơi họ sống, thay vì phải di chuyển. Ông nhấn mạnh rằng cần phải có quan hệ đối tác khu vực với các công ty tư nhân.

Sanjay nói rằng đạo luật CHIPS sẽ tạo ra khoảng 50.000 việc làm trực tiếp trong ngành bán dẫn và nửa triệu việc làm gián tiếp. Điều này đòi hỏi chúng tôi phải thu hút các nhóm ít được đại diện, người da đen, người gốc Tây Ban Nha, người dân ở các vùng nông thôn. Trong vòng 10 năm tới sẽ có khoản đầu tư $100B Micron. Xây dựng là một phần quan trọng của những công việc được trả lương cao này. Ông nói rằng vào năm 2030, Micron sẽ giảm 42% lượng khí thải carbon so với năm 2018, phù hợp với Hiệp định Paris. Đến năm 2025, các cơ sở của họ sẽ sử dụng 100% năng lượng tái tạo.

Sanjay cũng khuyến khích đầu tư vào công nghệ sản xuất thông minh. Ông nói rằng các nhà máy của họ có hơn 500.000 cảm biến với rất nhiều điểm kiểm soát và nhiều hình ảnh của các tấm wafer. Anh ấy nói rằng họ có 30PB dữ liệu mà họ muốn phân tích và hiểu để tạo ra quy trình sản xuất thông minh hơn với việc bảo trì thiết bị nhanh hơn và chất lượng tốt hơn để đáp ứng nhu cầu.

Tuy nhiên, các chương trình AI như nếp gấp alpha, dự đoán cách các protein sẽ gấp lại, là vô cùng hữu ích. Anh ấy cũng đề cập rằng việc cung cấp thông tin về những thứ không hoạt động có thể rất hữu ích và gợi ý rằng chúng tôi nên công bố những sai lầm cũng như những thành công của mình. Đây cũng là một bài học tốt cho các doanh nhân, nếu điều gì đó không hiệu quả, hãy tìm ra điều này càng sớm càng tốt và thay đổi hoặc điều chỉnh mục tiêu của bạn nếu cần.