Microsoft dan Nvidia memperkenalkan langkah baru dalam strategi AI untuk komputer pribadi. Keduanya berfokus memindahkan lebih banyak tugas AI dari cloud agar dijalankan langsung di PC Windows.
Laptop generasi baru disebut mampu menjalankan model dengan lebih dari 120 miliar parameter langsung di mesin. Cloud hanya digunakan bila diperlukan.
Selama bertahun-tahun, pengalaman AI generatif bergantung pada pusat data besar. Permintaan dikirim dari laptop, tetapi proses berat ditangani server jarak jauh.
Pada acara di San Francisco tanggal 7 Oktober, para pemimpin kedua perusahaan menggambarkan masa depan Windows sebagai model kecerdasan hibrida.
Yakni gabungan komputasi perangkat dan cloud.
Pendekatan ini berbeda dari cara banyak orang memakai chatbot saat ini. Saat bertanya lewat peramban, permintaan biasanya dikirim melalui internet ke pusat data.
GPU di pusat data melakukan penalaran, lalu hasilnya dikirim kembali ke layar. Dengan AI lokal, sebagian atau seluruh proses dapat berlangsung langsung di laptop.
Contohnya, pengguna dapat meminta AI mencari melalui ribuan dokumen internal, menganalisis kumpulan kode sumber, mengubah ucapan menjadi teks, atau membuat gambar.
Tugas itu dapat dikerjakan memakai perangkat keras mesin tanpa mengirim semua data secara eksternal.
Microsoft tidak menganggap komputasi awan akan hilang.
Arah baru ini membiarkan Windows menentukan tugas mana yang cocok untuk perangkat dan mana yang membutuhkan daya pusat data.
Tugas kecil yang butuh respons cepat atau melibatkan data sensitif dapat ditangani secara lokal.
Ketika tuntutan terlalu besar bagi perangkat keras komputer, sistem dapat beralih ke model berbasis cloud.
Itulah alasan Microsoft menyebut model ini sebagai kecerdasan hibrida.
