News Hiệu suất nâng cao NVIDIA vComputeServer trên Máy chủ Dell EMC

Thảo luận trong 'Tin công nghệ' bắt đầu bởi minhduongpro, 28/10/20.

  1. minhduongpro PageRank 2 Member

    Tham gia ngày:
    21/7/17
    Kiến trúc Tham chiếu mới cho NVIDIA vComputeServer trên cơ sở hạ tầng Dell EMC cung cấp giải pháp cho phép ảo hóa GPU máy chủ.

    1 nghiên cứu vừa mới đây đã phân tích các chỉ số tiêu dùng GPU trên những trang web quý khách khác nhau đang chạy khối lượng công tác ai cho thấy rằng tài nguyên GPU đã được sử dụng không toàn bộ trong rất nhiều những trường hợp. Ở đây chúng tôi biểu hiện 2 phát hiện chính của nghiên cứu, cộng có các khuyến nghị để khắc phục chúng.

    1. gần một phần ba số người mua đang tiêu dùng nhàng nhàng dưới 15%. Mức dùng bộ nhớ GPU làng nhàng hơi giống nhau. Do khách hàng là những người thực hành học sâu có thương hiệu, điều này rất đáng kinh ngạc. GPU ngày một mau lẹ hơn, nhưng không có vấn đề gì nếu như các vận dụng ko hoàn toàn sử dụng chúng.
    Đề xuất: Cải thiện việc dùng bằng phương pháp san sẻ GPU cho phổ quát người dùng bằng bí quyết dùng ảo hóa. Các người sử dụng kích thước lô tối ưu, tốc độ học tập và siêu tham số để tiêu dùng tất cả bộ nhớ GPU và tính toán những khả năng của lõi sở hữu thể được phân bổ một phiên bản GPU ảo hóa chuyên dụng hoặc phổ quát GPU bên trong 1 máy ảo (VM).

    1. có 1 sự phí phạm tài nguyên khác, có nhẽ to hơn - GPU không được sử dụng. Thật khó để xếp hàng công tác hiệu quả cho GPU. Trong một trật tự khiến cho việc điển hình, một nhà khoa học dữ liệu sẽ thiết lập phổ thông thể nghiệm, đợi chúng chấm dứt và sau ấy dành hơi phổ quát thời kì để phân tích kết quả khi mà GPU không hoạt động.
    Đề xuất: Việc gộp và phân tổ GPU với thể giải quyết vấn đề này bằng phương pháp phân phối khả năng tự động phân bổ lại và xoay vòng tài nguyên, cho phép các áp dụng kỹ thuật dữ liệu khác sử dụng những tài nguyên nhàn rỗi. Dùng VMware® vSphere® vMotion ™ để chuyển động những máy ảo được tăng tốc GPU và khối lượng công tác sẽ khiến cho giảm tài nguyên GPU.

    >>> Xem thêm: giá dell t5820

    NVIDIA A100 mới cung ứng phân vùng GPU

    NVIDIA® vừa qua đã ban bố phân vùng phần cứng mang GPU NVIDIA A100 Tensor Core như 1 biện pháp bổ sung cho ảo hóa. A100 ở chế độ GPU đa phiên bản (MIG) với thể chạy bất kỳ hài hòa nào của tối đa bảy khối lượng công tác người nào hoặc HPC sở hữu kích thước khác nhau cùng một khi. Phân vùng GPU đặc biệt hữu ích cho các công việc hội nghị ai cũng như công việc phát triển ai ở giai đoạn đầu thường ko tiêu tốn đông đảo hiệu suất mà một GPU hiện đại mang lại. Với phần mềm ảo hóa GPU, 1 máy ảo (VM) sở hữu thể được chạy trên mỗi phiên bản MIG này để các doanh nghiệp sở hữu thể tận dụng lợi ích điều hành, giám sát và hoạt động của ảo hóa máy chủ dựa trên siêu giám sát.

    Trong nhiều năm, các trọng tâm dữ liệu đã dùng ảo hóa CPU máy chủ để tăng tính linh động của CNTT và cải thiện việc sử dụng phần cứng máy tính của họ. Hiện tại, sự tập kết vào ảo hóa này đang được mở rộng để bao gồm các GPU giúp nâng cao tốc phổ quát khối lượng công việc máy tính chuyên sâu, chẳng hạn như đào tạo và truyền thông ai cũng như phân tách dữ liệu . Có ảo hóa, trung tâm dữ liệu có thể sản xuất GPU cho phổ quát quý khách hơn, cùng lúc nâng cao hiệu suất sử dụng nói chung của những tài sản quý giá này.

    Ảo hóa GPU bên trong máy chủ Dell EMC

    Tại Dell Technologies, chúng tôi đã hợp tác chặt chẽ mang các bên khoa học của mình để cung cấp ảo hóa GPU trong dòng máy chủ Dell EMC PowerEdge được tăng tốc GPU của chúng tôi. Chúng tôi đã thực hành một bước tiến to theo hướng này vào tháng 8 năm 2019 khi triển khai hỗ trợ phần mềm NVIDIA vComputeServer để cho phép ảo hóa dựa trên siêu giám sát trên các máy chủ tăng tốc GPU được đồ vật NVIDIA Mellanox® ConnectX-5 hoặc thẻ giao diện mạng mới hơn (NIC). NVIDIA vComputeServer cho phép những trung tâm dữ liệu tăng tốc ảo hóa máy chủ có GPU mới nhất để sở hữu thể chạy những khối lượng công tác đòi hỏi rộng rãi tính toán nhất trong những máy ảo.

    bữa nay, chúng tôi đang thực hiện một bước tiến lớn khác mang kiến trúc tham chiếu Dell EMC mới cho NVIDIA vComputeServer. Với giải pháp này, quản trị viên CNTT của bạn với thể phân bổ các phân vùng tài nguyên GPU trong VMware vSphere, cũng như tương trợ chuyển di trực tiếp các máy ảo chạy khối lượng công việc NVIDIA CUDA ™.

    >>> Xem thêm: mua dell 7820



    mang phổ biến lợi ích sở hữu trị giá trong việc chuyển sang ảo hóa GPU bằng vComputeServer với máy chủ Dell EMC PowerEdge. Ví dụ: ảo hóa giúp quản trị viên CNTT của bạn:

    • Dân chủ hóa quyền truy nã cập GPU bằng phương pháp cung ứng các phân vùng GPU theo yêu cầu
    • Quy mô phân bổ tài nguyên GPU lên và xuống, nếu cần và
    • hỗ trợ chuyển động trực tiếp bộ nhớ GPU
    giả dụ công ty CNTT của bạn đang xem xét ảo hóa GPU trong trọng điểm dữ liệu của bạn, thì kiến trúc tham chiếu Dell EMC cho NVIDIA vComputeServer là 1 nơi xuất sắc để bắt đầu. Nó chỉ dẫn bạn những trường hợp dùng cho vComputeServer và các tùy chọn của bạn cho GPU NVIDIA trong máy chủ Dell EMC PowerEdge.

    Đưa vComputeServer vào thử nghiệm

    những kỹ sư của Dell Technologies đã nghiên cứu cách ảo hóa GPU sở hữu vComputeServer tác động tới hiệu suất khái quát. Các thể nghiệm này ban sơ so sánh GPU NVIDIA chạy trên Linux nai lưng có một GPU ảo hóa. Sau lúc thiết lập đường cơ sở về hiệu suất ấy, đội ngũ đã tiến hành thí nghiệm bổ sung sở hữu rộng rãi GPU ảo và phân vùng GPU ảo.

    Kết quả thể nghiệm cho thấy trong toàn bộ những trường hợp, người mua có thể trông mong sự khác biệt nhỏ về hiệu suất, từ trong khoảng 2 tới năm %, so sở hữu kim loại nai lưng lúc tiêu dùng cấu hình GPU ảo cho khối lượng công tác học máy và học sâu. Và trong 1 bước ngoặt thú vị, sở hữu những cảnh huống mà sự dị biệt về hiệu suất là dễ dàng. Ví dụ: lúc các máy ảo chạy hỗn hợp khối lượng công tác, bạn với thể thấy thời kì tốc độ hơn để kết quả bằng cách dùng đa dạng GPU phân đoạn cùng lúc so mang lúc bạn sử dụng 1 GPU hầu hết và lên lịch những tác vụ để chạy nối tiếp. Điều này mang thể xảy ra khi khối lượng công việc trên những máy ảo không được thực thi cộng 1 lúc hoặc không phải khi nào cũng bị ràng buộc bởi GPU. Việc chọn chính sách lập lịch GPU thích hợp với thể tác động đến hiệu suất và lực lượng đã so sánh hiệu suất của những chính sách lập lịch khác nhau.

    Để biết chi tiết phần đông về các bài kiểm tra hiệu suất được thực hiện trong phòng thí điểm Dell EMC Server CTO, cùng với thông tin cấu hình chi tiết, hãy xem Ảo hóa GPU trong VMware vSphere bằng phương pháp sử dụng NVIDIA vComputeServer trên cơ sở hạ tầng Dell EMC .

    >>> Xem thêm: máy trạm dell 3430
     
    #1

Chia sẻ trang này