Intel ra mắt bộ xử lý thần kinh đa hình thế hệ tiếp theo của mình — vậy, đó là gì nữa?

Mike Davies, giám đốc Phòng thí nghiệm điện toán thần kinh của Intel, giải thích những nỗ lực của công ty trong lĩnh vực này. Và với sự ra mắt của chip thần kinh đa hình mới trong tuần này, anh ấy đã nói chuyện với Ars thông qua các bản cập nhật.

Bất chấp tên gọi của chúng, mạng nơ-ron chỉ liên quan xa đến những thứ bạn tìm thấy trong não. Mặc dù tổ chức của chúng và cách thức chúng truyền dữ liệu qua các lớp xử lý có thể có một số điểm tương đồng thô với mạng nơ-ron thực tế, nhưng dữ liệu và các phép tính được thực hiện trên nó sẽ trông rất quen thuộc với một CPU tiêu chuẩn.

Nhưng mạng lưới thần kinh không phải là cách duy nhất mà mọi người cố gắng rút ra bài học từ hệ thần kinh. Có một kỷ luật riêng biệt được gọi là tính toán thần kinh cơ dựa trên việc ước tính hành vi của các nơ-ron riêng lẻ trong phần cứng. Trong phần cứng neuromorphic, các phép tính được thực hiện bởi rất nhiều đơn vị nhỏ giao tiếp với nhau thông qua các đợt hoạt động được gọi là các gai và điều chỉnh hành vi của chúng dựa trên các xung đột mà chúng nhận được từ những người khác.

Hôm thứ Năm, Intel đã phát hành phiên bản mới nhất của phần cứng thần kinh đa hình, được gọi là Loihi. Bản phát hành mới đi kèm với nhiều thứ bạn mong đợi từ Intel: bộ xử lý tốt hơn và một số cải tiến tính toán cơ bản. Nhưng nó cũng đi kèm với một số thay đổi phần cứng cơ bản cho phép nó chạy các lớp thuật toán hoàn toàn mới. Và trong khi Loihi vẫn là một sản phẩm tập trung vào nghiên cứu cho đến nay, Intel cũng đang phát hành một trình biên dịch mà họ hy vọng sẽ thúc đẩy việc áp dụng rộng rãi hơn.

Để hiểu về Loihi và những gì mới trong phiên bản này, chúng ta hãy sao lưu và bắt đầu bằng cách xem xét một chút sinh học thần kinh, sau đó xây dựng từ đó.

Từ tế bào thần kinh đến tính toán

Nền tảng của hệ thần kinh là loại tế bào được gọi là tế bào thần kinh. Tất cả các tế bào thần kinh đều có chung một vài đặc điểm chức năng. Ở một đầu của ô là một cấu trúc được gọi là dendrite, bạn có thể coi nó như một bộ thu. Đây là nơi tế bào thần kinh nhận đầu vào từ các tế bào khác. Tế bào thần kinh cũng có sợi trục, đóng vai trò như bộ truyền tín hiệu, kết nối với các tế bào khác để truyền tín hiệu.

Các tín hiệu có dạng cái được gọi là “gai”, là những thay đổi ngắn của điện áp qua màng tế bào của nơ-ron. Các gai đi xuống các sợi trục cho đến khi chúng chạm tới các điểm nối với các tế bào khác (gọi là khớp thần kinh), lúc đó chúng được chuyển đổi thành một tín hiệu hóa học truyền đến dendrite gần đó. Tín hiệu hóa học này mở ra các kênh cho phép các ion đi vào tế bào, bắt đầu một đợt tăng đột biến mới trên tế bào nhận.

Tế bào tiếp nhận tích hợp nhiều loại thông tin – nó đã nhìn thấy bao nhiêu gai, liệu có bất kỳ tế bào thần kinh nào đang báo hiệu rằng nó nên yên tĩnh, hoạt động như thế nào trong quá khứ, v.v. – và sử dụng thông tin đó để xác định trạng thái hoạt động của chính nó. Khi vượt qua ngưỡng, nó sẽ kích hoạt tăng đột biến các sợi trục của chính nó và có khả năng kích hoạt hoạt động trong các tế bào khác.

Thông thường, điều này dẫn đến các đột biến hoạt động rải rác, cách nhau một cách ngẫu nhiên khi tế bào thần kinh không nhận được nhiều thông tin đầu vào. Tuy nhiên, khi nó bắt đầu nhận được tín hiệu, nó sẽ chuyển sang trạng thái hoạt động và bắn ra một loạt gai liên tiếp nhanh chóng.

Một tế bào thần kinh, có thể nhìn thấy các đuôi gai (phần nhô ra có gai ở trên cùng) và một phần của sợi trục (phần mở rộng dài ở phía dưới bên phải) có thể nhìn thấy được.
Phóng to / Một tế bào thần kinh, có thể nhìn thấy các đuôi gai (phần nhô ra có gai ở trên cùng) và một phần của sợi trục (phần mở rộng dài ở phía dưới bên phải) có thể nhìn thấy được.

Quá trình này mã hóa và thao tác thông tin như thế nào? Đó là một câu hỏi thú vị và quan trọng, và chúng tôi chỉ mới bắt đầu trả lời.

Một trong những cách mà chúng tôi đã giải đáp là thông qua cái được gọi là sinh học thần kinh lý thuyết (hay sinh học thần kinh tính toán). Điều này liên quan đến nỗ lực xây dựng các mô hình toán học phản ánh hành vi của các hệ thần kinh và tế bào thần kinh với hy vọng rằng điều này sẽ cho phép chúng ta xác định một số nguyên tắc cơ bản. Mạng lưới thần kinh, tập trung vào các nguyên tắc tổ chức của hệ thần kinh, là một trong những nỗ lực xuất phát từ lĩnh vực này. Mạng nơ-ron xoắn ốc, cố gắng xây dựng từ hoạt động của các nơ-ron riêng lẻ, là một mạng khác.

Mạng nơ-ron xoắn ốc có thể được thực hiện trong phần mềm trên các bộ xử lý truyền thống. Nhưng cũng có thể triển khai chúng thông qua phần cứng, như Intel đang làm với Loihi. Kết quả là một bộ xử lý không giống bất cứ thứ gì bạn có thể quen thuộc.

Gai trong silicon

Chip Loihi thế hệ trước chứa 128 lõi riêng lẻ được kết nối bằng mạng truyền thông. Mỗi lõi đó có một số lượng lớn các “nơ-ron” riêng lẻ, hoặc các đơn vị thực thi. Mỗi tế bào thần kinh này có thể nhận đầu vào dưới dạng gai từ bất kỳ tế bào thần kinh nào khác — một hàng xóm trong cùng một lõi, một đơn vị trong một lõi khác trên cùng một con chip hoặc từ một con chip khác hoàn toàn. Tế bào thần kinh tích hợp các gai mà nó nhận được theo thời gian và dựa trên hành vi mà nó được lập trình, sử dụng nó để xác định thời điểm gửi các gai của chính nó tới bất kỳ tế bào thần kinh nào mà nó được kết nối.

Tất cả các tín hiệu tăng đột biến xảy ra không đồng bộ. Tại các khoảng thời gian đã định, các lõi x86 được nhúng trên cùng một chip buộc phải đồng bộ hóa. Tại thời điểm đó, tế bào thần kinh sẽ làm lại trọng lượng của các kết nối khác nhau của nó – về cơ bản, cần chú ý đến tất cả các tế bào thần kinh riêng lẻ gửi tín hiệu đến nó.

Đặt trong điều kiện của một tế bào thần kinh thực tế, một phần của đơn vị thực thi trên chip hoạt động như một dendrite, xử lý các tín hiệu đến từ mạng truyền thông một phần dựa trên trọng số thu được từ hành vi trong quá khứ. Sau đó, một công thức toán học đã được sử dụng để xác định thời điểm hoạt động đã vượt qua ngưỡng quan trọng và kích hoạt mức tăng đột biến của chính nó khi nào hoạt động vượt qua. Sau đó, “sợi trục” của đơn vị thực thi sẽ tìm kiếm đơn vị thực thi nào khác mà nó giao tiếp với và nó gửi một xung đột cho mỗi đơn vị.

Trong lần lặp lại trước đó của Loihi, một đợt tăng đột biến chỉ mang theo một chút thông tin. Một nơ-ron chỉ được đăng ký khi nó nhận được một nơ-ron.

Không giống như một bộ xử lý thông thường, không có RAM ngoài. Thay vào đó, mỗi nơ-ron có một bộ nhớ đệm nhỏ dành riêng cho việc sử dụng nó. Điều này bao gồm các trọng số mà nó gán cho các đầu vào từ các tế bào thần kinh khác nhau, bộ nhớ cache của hoạt động gần đây và danh sách tất cả các tế bào thần kinh khác được gửi đến.

Một trong những điểm khác biệt lớn khác giữa chip thần kinh nhân tạo và bộ vi xử lý truyền thống là hiệu suất năng lượng, trong đó chip thần kinh nhân tạo đi trước rất nhiều. IBM, công ty đã giới thiệu chip TrueNorth của mình vào năm 2014, đã có thể hoàn thành công việc hữu ích từ nó mặc dù tốc độ của nó chỉ ở mức kiloHertz nhàn nhã và nó sử dụng ít hơn .0001 phần trăm năng lượng cần thiết để mô phỏng một mạng nơ-ron tăng đột biến trên các bộ vi xử lý truyền thống. Mike Davies, giám đốc Phòng thí nghiệm điện toán thần kinh của Intel, cho biết Loihi có thể đánh bại các bộ vi xử lý truyền thống với hệ số 2.000 trên một số khối lượng công việc cụ thể. “Chúng tôi thường xuyên tìm thấy 100 lần [less energy] cho SLAM và các khối lượng công việc robot khác, “ông nói thêm.

Bạn cũng có thể thích

Menu