ChatGPT đang làm gì … và Tại sao nó hoạt động được?
14 t h án g H a i nă m 2 0 2 3
St e ph e n W o lfr a m
Nó chỉ thêm một từ mỗi lần
V iệc C h atG PT c ó t h ể tự độ n g tạ o r a t hứ gì đó c ó t h ể đọc đư ợc n gay c ả k h i n hì n b ề n g oà i
trô n g c ó v ẻ g iố n g n hư v ăn b ả n d o c on- n gư ờ i- v i ết- r a l à đ iề u đ á ng c h ú ý v à b ất ng ờ . Như n g n ó
thự c h i ện đ i ề u đó n hư th ế n ào ? V à t ại s a o n ó ho ạ t đ ộ n g đư ợc ? M ụ c đíc h c ủ a tô i ở đ ây l à đ ể
đư a r a m ột p h ác th ả o s ơ bộ v ề nhữ n g g ì đ an g d i ễn r a b ên tr o ng C ha tG PT – v à s au đ ó đ ể
k há m p h á lý do t ạ i s ao n ó c ó th ể th ự c hi ệ n r ất t ốt tr on g v i ệc tạ o ra n hữ ng g ì mà c h ú n g t a c ó
th ể c oi l à nh ữ n g v ăn b ản c ó ý n gh ĩa . T ô i n ê n nó i r õ ng ay từ đ ầ u r ằ ng t ôi dự đ ị nh s ẽ t ậ p t run g
v ào bứ c tr an h t oà n c ả nh v ề n hữ n g g ì đ a ng d i ễn r a – v à mặc dù t ô i s ẽ đ ề c ậ p đ ến mộ t s ố c h i
ti ế t k ỹ th u ật như n g t ô i s ẽ k h ô ng đ i s â u v à o c hú n g. ( V à b ả n c h ất c ủ a n hữ ng gì tô i s ẽ n ó i c ũn g
áp dụ n g c ho c ác “ m ô h ìn h n gô n n gữ l ớ n” [ LL Ms ] k h ác c ũ n g n hư đố i v ớ i C h atG P T).
Đi ề u đ ầu t iê n c ầ n p h ả i g i ả i t híc h l à n hữ n g gì mà Ch a tG PT l u ôn c ố g ắn g t hự c h i ệ n, v ề c ơ b ản
l à tạ o ra “s ự l iê n t ục h ợ p lý ” c ủa b ấ t k ỳ v ăn bả n n à o m à n ó c ó c h o đế n n ay , tro n g đ ó “ h ợ p lý ”
c ó n gh ĩ a l à “n gư ờ i t a c ó t hể mo n g đ ợ i mộ t a i đó v i ết r a s a u k h i x e m đư ợc n hữ ng gì mọ i ng ư ờ i
đã v iế t tr ên h à n g tỷ t r an g w eb , v .v …” .
Vì v ậy , g i ả s ử c hú n g t a c ó d òn g v ă n b ản “ Đi ều t uy ệt v ờ i nh ấ t v ề A I l à k hả nă n g c ủa nó” . Hãy
tư ởn g tư ợn g v ề v i ệc q ué t hà n g tỷ tr a ng v ă n bả n đư ợc - v i ết- b ở i- c on - ng ư ời (g i ả s ử c ó trê n we b
v à tr on g n hữ n g q uy ể n s ác h đã đư ợc s ố hó a) v à tì m k i ế m t ất c ả c á c p h i ên bả n c ủ a dò n g v ăn
bả n này - s a u đ ó x e m x et x em từ nà o s ẽ l à ti ế p t he o tro n g k h o ản g t h ờ i g i an n ào . C h at G PT
thự c h i ện n hữ n g v i ệc như t hế n ày mộ t c ác h h iệ u qu ả, n g oạ i trừ v i ệc (n hư tô i s ẽ gi ả i t h íc h
s au) n ó k hô n g x e m x ét v ăn b ả n b ằ ng c hữ , nó tì m k iế m n hữ n g thứ t h eo m ột n gh ĩ a n à o đó “ ph ù
h ợp v ề ý n gh ĩ a” . Nh ư n g k ế t qu ả c u ối c ù n g là nó t ạo ra m ột d an h s á c h x ế p h ạn g c ác t ừ c ó th ể
ti ế p th e o s a u, c ù n g v ớ i “ x ác s u ất ” :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V à đ i ều đ án g c h ú ý ở đây l à k h i C h atG PT t hự c h i ệ n đ i ều gì đó g i ốn g như v i ết mộ t b à i t i ểu
l uậ n, n hữ n g g ì m à nó đa n g t hự c s ự l à m l à c h ỉ h ỏ i v à t i ếp tục h ỏi đ i h ỏ i l ạ i “v ớ i đ oạ n v ăn bả n
này , từ t iế p t h e o n ên l à g ì? ” – v à m ỗ i lầ n nó bổ s u ng th ê m mộ t từ . ( Nó i mộ t c ác h c hí n h x ác
h ơn , n hư t ôi s ẽ g i ải t híc h s a u, nó đ a n g th ê m m ột “ mã t h ôn g b á o” (t ok en) , v ố n c ó t hể c h ỉ l à
mộ t p hầ n c ủ a m ột t ừ , v à đ ó l à lý d o tạ i s a o đô i k h i n ó c ó t h ể “ tạ o nê n n hữ ng từ m ớ i”).
Tốt t h ô i, n ế u ở m ỗ i bư ớc , nó c ó m ột d a nh s á c h c ác từ c ù n g v ớ i c á c x ác s u ấ t. N hư ng từ nà o
nó n ên t hự c s ự bắ t l ấy đ ể đư a v à o b à i t iể u lu ận ( h oặc bấ t k ỳ t hứ g ì ) mà nó đ an g v iế t? Ng ư ờ i
ta c ó t h ể ng h ĩ r ằn g n ó ph ả i l à từ “ đư ợc x ế p hạ n g c a o nh ấ t” ( tứ c l à từ đư ợc g á n “x ác s uấ t ”
c ao n h ất) . T uy n hi ê n, đây l à l úc m ột c h út t à th u ật b ắt đ ầu le n l ỏ i v ào . V ì mộ t s ố lý do - r ằn g
c ó t h ể m ộ t n g ày n à o đ ó c h ú ng t a s ẽ c ó c ác h h iể u t h eo k i ể u - k ho a- họ c - n ếu c h ún g ta l u ôn c họ n
từ đư ợc x ếp h ạn g c ao nh ấ t, c hú n g t a t hư ờn g s ẽ n h ận đư ợc r ất nh i ều bà i lu ậ n v ô c ù ng “ p hẳ ng” ,
dư ờn g n hư k h ô ng ba o g i ờ “ th ể h i ện bấ t k ỳ s ự s á n g tạ o n à o” (v à t h ậm c hí đ ô i k h i l ặ p l ại t ừ ng
từ m ột ) . Như n g n ếu đ ô i k h i ( m ột c ác h n gẫ u nh i ê n) c h ún g t a c họ n nhữ n g từ đư ợc x ế p - h ạ nghạ n g- t h ấp- h ơ n, c h ú n g ta s ẽ nh ậ n đư ợc m ột b à i ti ể u l uậ n “t h ú v ị h ơ n”.
Thự c t ế s ự x u ất h i ện c ủa y ế u t ố ng ẫ u nh i ê n ở đ ây c ó ng h ĩa l à n ếu c hú n g ta s ử dụ n g c ùn g m ột
l ờ i n hắc n hi ề u l ầ n, c h ún g t a c ó k h ả n ăn g n h ận đư ợc c ác bà i l uậ n k hác nh a u c h o m ỗ i lầ n . V à,
để ph ù h ợ p v ới ý tư ở n g v ề t à t hu ật , c ó mộ t t ha m s ố đặc b iệ t đư ợc - gọ i- l à “n h iệ t đ ộ” x ác đ ị nh
tầ n s u ấ t c ác từ đ ư ợc x ếp - h ạ ng- th ấ p- h ơn s ẽ đư ợc s ử d ụ ng , v à đ ố i v ớ i v i ệc tạ o r a b à i t i ểu
l uậ n, hó a ra “ n hi ệ t đ ộ” l à 0 , 8 tr ôn g c ó v ẻ tố t nh ấ t. (C ầ n p hả i nh ấ n mạ n h rằ n g k h ôn g c ó “ học
th uy ết” n ào đư ợc s ử d ụn g ở đ ây , v ấ n đ ề c h ỉ l à n hữ ng g ì đã đư ợc c hứ n g m i nh l à c ó t ác d ụn g
tro n g t hự c t ế. V à đ ố i v ớ i v í dụ c ủ a k h á i n i ệ m v ề “n h i ệt độ” ở đó b ở i v ì p hâ n ph ố i h à m mũ q ue n
th u ộc từ v ậ t lý t h ốn g k ê tì n h c ờ đư ợc s ử d ụn g , n hư n g k h ô ng c ó k ết nố i “ v ề m ặt v ậ t lý ” - ít
nh ấ t l à nh ữ n g g ì c hú n g tô i b i ết c ho đ ế n n ay ) .
Trư ớc k hi c h ú n g t a t iế p tục , tô i n ê n g iả i t híc h rằ n g v ì mục đ íc h tr ì nh bày , tô i h ầ u nh ư s ẽ k h ôn g
s ử dụ n g t o àn b ộ h ệ t h ốn g c ó tr o ng Ch a tG PT , t hay v à o đ ó, tô i th ư ờ ng s ẽ là m v i ệc v ới m ột hệ
th ố ng G PT - 2 đ ơ n gi ả n h ơ n , v ố n c ó mộ t tí n h nă n g k h á h ay là nó đủ n h ỏ đ ể c ó k hả n ăn g c hạy
trê n m ột m áy t ín h đ ể b àn t i êu c hu ẩ n. V à v ề c ơ b ản t h ì v ớ i m ọ i t hứ mà t ô i trì n h b ày , t ôi s ẽ c ó
th ể b ao gồ m m ã Ng ô n ngữ W ol fr am r õ r à ng mà bạ n c ó t hể c hạy tr ên máy t ín h c ủ a m ìn h ng ay
tứ c th ì. (H ãy n h ấp c h u ột v à o h ìn h ả n h dư ớ i đây để s a o c h é p m ã đ ằn g s a u n ó).
Ví d ụ, đây l à c ác h l ấy đư ợc b ả ng x ác s uấ t n ó i tr ên . Đ ầ u t i ên , c h ú n g t a p h ả i tr íc h x u ất m ạn g
lư ớ i th ầ n k i n h “ m ô hì n h n gô n n gữ ” c ơ bả n:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
S au n ày , c h ún g ta s ẽ x em x é t b ê n tr o ng m ạ n g lư ớ i t hầ n k i nh n ày v à n ó i v ề c ác h thứ c n ó ho ạ t
độ n g n hư t hế nà o . Nh ư ng v ớ i h i ện tạ i , c h ún g ta c h ỉ c ó t hể áp dụ n g “ m ô h ìn h m ạ ng lư ớ i” n à y
như mộ t hộ p đ en c h o v ăn b ả n c ủa m ì nh , v à y êu c ầ u 5 từ n gữ hà n g đầ u s ắ p x ếp t h eo x ác s uấ t
mà mô hì nh c ho b i ết n ên t u ân t h eo :
Đi ề u nà y s ẽ nắ m l ấy k ết q u ả đó v à bi ế n n ó t hà n h m ột “t ập d ữ l iệ u” đư ợc đ ị nh dạ n g r õ r à ng :
V à đây là đ i ều s ẽ x ảy r a n ế u mộ t ng ư ời li ê n tục “á p d ụn g m ô hì n h” - ở từ n g b ư ớc b ổ s un g
th ê m từ c ó x ác s u ất c ao nh ất ( đư ợc c h ỉ đ ịn h tr on g m ã n ày l à “ d ec i s i on ” từ mô hì nh) :
Đi ề u gì x ảy r a nế u m ột a i đó t i ếp t ục lâ u h ơ n? Tr on g trư ờn g h ợ p (“ nh i ệt đ ộ k hô n g – z ero
te m per a tur e ”) n ày , nh ữ ng gì x u ấ t h iệ n s ẽ s ớ m tr ở n ên k há lộ n x ộ n v à b ị l ặp đi lặ p l ạ i
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Như n g n ế u t hay v ì l u ôn c h ọn từ t hu ộc “t o p ” t h ì đ ô i k h i ngư ờ i t a c họ n n g ẫu n h iê n c ác từ
“ k hô n g - ph ả i- t o p” ( v ớ i độ “ n g ẫu n h i ên” tư ơ n g ứ n g v ớ i “ n h iệ t độ” là 0, 8) ? Mộ t l ần nữ a , ng ư ờ i
ta c ó t h ể x ây dự n g v ă n b ản :
V à mỗ i lầ n th ự c h iệ n đ iề u n ày , c ác lự a c h ọ n ng ẫ u n hi ê n k h ác nh au s ẽ đư ợc đư a r a, v à v ă n
bả n s ẽ k h ác – n hư tr o ng 5 v í dụ s au :
Đi ề u đ á ng c hú ý l à n g ay c ả ở bư ớc đ ầu t iê n , c ó r ất nh i ều “ từ t i ế p t h eo” k h ả t hi đ ể c h ọ n ( ở
nh i ệt độ 0, 8), mặc dù x ác s u ất c ủ a c h ú ng gi ả m đ i m ột c ác h k h á n h a nh c hó n g (v à, v ân g , đư ờ ng
th ẳ ng tr ê n đồ t h ị l o g - lo g n ày tư ơn g ứ n g v ớ i p hâ n rã n – 1 “ đ ị nh lu ật l ũy thừ a” rấ t đ ặc trư ng c ho
th ố ng k ê k há i q u át c ủ a n g ôn n gữ ) :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Đi ề u g ì s ẽ x ảy r a nế u mộ t ai đ ó t i ếp t ục l â u h ơ n ? Đ ây là m ột v í dụ n gẫ u nh i ê n. S o w ha t
ha p pe ns if o ne g oes o n l o n ger ? H er e ’s a r a nd o m ex a m pl e . N ó t ốt h ơn từ - ở- t rê n- c ùn g ( z ero
te m per a tur e) n h ư ng v ẫn t ố t nh ấ t mộ t c ác h k há k ỳ l ạ :
Đi ề u này đ ã đư ợc t hự c h i ện b ằ ng m ô hì n h G P T - 2 đ ơ n gi ả n nh ấ t ( từ 20 1 9). Vo i ws c ác mô h ìn h
G PT - 3 m ớ i h ơ n v à l ớn h ơn , c ác k ế t q uả là t ố t h ơ n. V à đây là v ăn bả n g ồm c ác từ - ở- tr ê n- c ùn g
( z er o t em p er at ur e) đư ợc t ạ o r a v ớ i “ d ấ u n h ắ c ” tư ơn g tự , n hư n g v ớ i mô hì n h G PT - 3 l ớ n n hấ t :
V à đây là mộ t v í d ụ n g ẫu nh i ên ở “ n h iệ t đ ộ 0 .8” ( “t e m per at ur e 0 .8” ) :
Các Xác suất Đến Từ Đâu?
Tốt th ô i, v ậy t hì Ch at G PT lu ô n l u ô n l ấy từ t i ế p t he o c ủ a nó dự a tr ên c ác x ác s u ấ t. N hư n g c ác
x ác s uấ t n ày đ ến từ đ âu ? H ãy bắ t đ ầu bằ n g m ột v ấ n đ ề đ ơ n g iả n h ơn . Hãy x em x é t v i ệc t ạo
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
r a v ă n bả n ti ế n g A n h mộ t k ý t ự ( t hay v ì mộ t t ừ ) t ạ i m ộ t t h ờ i đ i ể m. Là m th ế nà o để c h ún g t a
c ó th ể tì m r a x ác s u ất c ho từ n g k ý tự ?
Mộ t đ i ề u r ấ t tố i t h i ểu mà c h ún g t a c ó t h ể t h ự c hi ệ n l à lấy mộ t m ẫ u v ă n b ả n t iế n g A n h v à tí n h
to á n t ầ n s u ất c ác k ý t ự k h ác n ha u x u ất hi ệ n tr on g đ ó. Vì v ậy , v í d ụ, đ i ề u này s ẽ đế m c á c k ý
tự tro n g b ài v iế t tr ên W ik ip e d ia v ề “ mè o” :
V à c ũn g t hự c h i ện đ i ề u tư ơn g tự c h o “c h ó” :
K ết qu ả l à tư ơ n g tự , n hư n g k h ôn g gi ố ng n ha u ( k ý tự “ o” , k h ô ng n g h i n g ờ gì , l à ph ổ b iế n h ơn
tro n g m ạ o t ừ “ d o gs ” b ở i v ì x é t c ho c ù ng , n ó x uấ t h iệ n tro n g c h í nh bả n th â n t ừ “d o g”). T uy
nh i ê n, n ếu c h ún g ta l ấy mộ t mẫ u v ăn b ản t i ến g A nh đ ủ l ớn t hì c uố i c ù ng , c hú n g t a c ó th ể
mo n g đ ợ i n hậ n đư ợc í t nh ấ t l à c ác k ết qu ả t ư ơ ng đố i n h ất q u án :
Đây l à mộ t v í d ụ v ề n hữ n g gì c h ú ng t a c ó đ ư ợc n ếu c h ún g ta c h ỉ tạ o r a mộ t c hu ỗ i c ác k ý tự
c ùn g v ó i c ác x ác s uấ t đó :
Ch ú ng t a c ó t hể c h i a nh ỏ th à nh c ác “ từ ” bằ ng c ác h t h ê m c ác k h o ản g trắ n g nế u c hú n g l à c ác
k ý tự c ó mộ t x ác s u ất nh ấ t đ ịn h:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ú ng ta c ó t hể th ự c h i ện c ôn g v iệc tạ o r a “c ác từ ” tố t h ơ n m ộ t c h út bằ n g c ác h b ắt b uộc p hâ n
ph ố i “ đ ộ d à i c ủa t ừ ” đ ể đ ồn g ý v ớ i n hữ n g g ì nó c ó tro n g ti ế n g A nh :
Ch ú ng t a đ ã k h ôn g tì n h c ờ nh ậ n đư ợc b ấ t k ỳ “từ t hự c t ế” nà o ở đ â y , n hư n g k ế t qu ả trô n g c ó
v ẻ t ố t h ơ n m ột c h út . Tuy n hi ê n, đ ể đ i x a h ơ n, c h ún g t a c ầ n p hả i l à m n h i ều v i ệc h ơ n l à c hỉ
c họ n ng ẫ u n h i ên từ ng k ý t ự . V à, v í d ụ, c h ún g t a b i ết rằ n g n ế u c h ú ng ta c ó c hữ “ q”, th ì v ề c ơ
bả n k ý tự ti ế p t he o p h ả i l à “ u” .
Đây là b i ể u đồ x ác s u ất c ủ a c ác k ý tự :
V à đ ây l à s ơ đ ồ t hể hi ện x ác s u ất c ủ a c ác c ặp k ý tự (“2 - g a m”) tr o ng v ăn b ả n t iế n g A n h đ iể n
hì n h. C ác k ý tự đ ầ u t i ên k hả d ĩ đư ợc h i ể n th ị tr ên tr a ng , c ác k ý tự thứ h a i ở c uố i tr a ng :
V à c hú n g t a th ấy ở đ â y , v í d ụ, c ộ t “ q” l à tr ố ng (c ó x ác s u ất b ằ ng 0) ng o ạ i tr ừ tr ê n hà n g “u” .
Tốt th ô i, v ì v ậy bây g i ờ t h ay v ì t ạ o “c ác t ừ ” c ủa c h ún g t a m ỗ i lầ n mộ t k ý tự , h ãy t ạo c h ún g
bằ n g c ác h x em x ét h a i k ý t ự c ùn g m ột lúc , s ử d ụ ng c ác x ác s uấ t “ 2 - g a m” n ày . Đ ây l à m ột v í
dụ v ề k ết q u ả - c ó t h ể ba o g ồ m m ột v à i “từ t h ự c t ế”:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V ớ i đủ v ă n bả n ti ế n g A nh , c hú n g t a c ó t h ể ư ớc tí n h k h á tố t k hô n g c hỉ c h o x ác s uấ t c ủ a c ác
k ý tự đ ơ n l ẻ ho ặc c ặ p k ý tự ( 2 - g a m) , m à c ò n c ho c ác c hu ỗ i k ý tự dà i h ơ n. Và n ế u c h ún g ta
tạ o r a “c ác từ ng ẫ u nh i ên” v ới x ác s u ất n - g a m dà i h ơ n dầ n d ần , c h ún g ta s ẽ t h ấy r ằn g c h ún g
dầ n d ầ n “ thự c t ế h ơ n” :
Như n g g i ờ đ ây , hãy g i ả s ử r ằ n g - ít n h iề u g i ốn g n hư Ch a tG PT - c h ún g t a đ a n g x ử lý t oà n b ộ
c ác từ c hứ k h ô ng ph ả i c ác k ý tự . C ó k ho ả ng 4 0 .0 0 0 từ t h ôn g dụ n g tr o ng t iế n g A n h. V à b ằn g
c ác h x e m x é t mộ t k h ố i lư ợ ng l ớ n c ác v ă n b ả n b ằ ng t iế n g A n h (c hẳ ng h ạn n hư v à i tr iệ u c uố n
s ác h , v ớ i tổ n g c ộ n g v à i tr ă m tỷ từ ) , c h ú ng ta c ó t hể ư ớc tí nh mứ c đ ộ p h ổ b i ến c ủa m ỗi từ . Và
bằ n g c ác h s ử d ụn g đ i ều n ày , c hú n g t a c ó t hể b ắ t đầ u tạ o c ác “c âu” , tr on g đ ó mỗ i từ đ ư ợc
c họ n n g ẫu n h i ên m ộ t c ác h đ ộc l ậ p, v ớ i c ùn g x ác s u ất x u ất h i ệ n tro ng k ho v ă n b ản . V à đ â y l à
mộ t v í d ụ v ề n hữ ng g ì c hú n g ta nh ậ n đư ợc :
K hô n g c ó gì đ án g ng ạ c nh i ê n, đ iề u này l à v ô n g hĩ a. V ậy là m th ế nà o để c h ún g ta c ó t h ể là m
tố t h ơ n ? C ũn g gi ố ng n hư v ớ i c ác k ý tự , c h ú n g t a c ó th ể bắ t đ ầ u tí n h đ ế n k h ô ng c h ỉ x ác s uấ t
đố i v ớ i c ác từ đ ơ n lẻ mà c ả x ác s uấ t đ ố i v ớ i c ác c ặ p ho ặc n- ga m t ừ d ài h ơ n. T hự c h i ện đ iề u
này c ho c ác c ặp , v à đ ây l à 5 v í d ụ v ề n hữ n g gì c h ú n g t a n h ận đư ợc , t ro n g mọ i tr ư ờ n g h ợp
bắ t đ ầu v ớ i từ “ m è o” :
Nó đ a ng tr ở n ên “ tr ô ng c ó v ẻ h ợ p lý ” h ơ n mộ t c h út . V à c hú n g t a c ó t hể tư ở n g t ư ợn g r ằ ng n ếu
c hú n g ta c ó th ể s ử d ụ ng n- gr a m đ ủ d à i th ì v ề c ơ b ả n c h ún g t a s ẽ “ nh ậ n đư ợc m ộ t Ch a tG PT”
- t h e o n gh ĩ a l à c hú n g ta s ẽ n h ận đư ợc t hứ g ì đ ó c ó th ể t ạ o ra c ác c hu ỗ i từ c ó độ- d à i- b ằ ngbà i- t iể u- l uậ n v ớ i “ c h ín h x ác x ác s uấ t bà i t i ể u lu ậ n tổ n g t h ể”. N hư ng đ ây l à v ấn đ ề : t h ậ m c hí
k hô n g c ó đ ủ v ă n bả n t i ến g A n h đ ã từ n g đư ợc v i ế t để c ó th ể s uy ra nhữ n g x ác s u ất đó .
Tro ng m ộ t lầ n th u t hậ p t h ôn g t in tr ê n w e b, c ó t h ể c ó v à i tr ă m tỷ t ừ , tr o n g n hữ n g c uố n s ác h
đã đư ợc s ố h óa c ó t h ể c ó h à ng tr ă m tỷ từ k hác . Như n g v ớ i 40 .0 0 0 từ p h ổ b i ế n, t hậ m c hí s ố
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
lư ợ ng x ác s u ất 2- ga m k h ả dĩ đã l à 1, 6 tỷ - v à s ố lư ợ ng 3 - g a m c ó t h ể c ó là 6 0 n gh ìn tỷ . V ì
v ậy , k h ôn g c ó c ác h nà o để c h ú ng t a c ó t h ể ư ớc tí n h x ác s uấ t ng a y c ả đ ối v ới t ất c ả n h ữ ng
x ác s uấ t n ày từ c ác v ăn b ả n ng o à i k ia . V à v ào t h ờ i đ iể m c h ún g ta đ ạt đư ợc “c ác p h ân đ oạ n
ti ể u l u ận” g ồm 2 0 từ , s ố lư ợ n g x ác s uấ t s ẽ l ớ n h ơ n t ổn g s ố lư ợ n g h ạt t ro n g v ũ tr ụ , v ì v ậy t he o
mộ t n gh ĩ a nà o đ ó , c hú ng t a k h ô ng b a o g i ờ c ó th ể v i ế t r a h ết đư ợc .
V ậy , c h ún g t a c ó t h ể l àm g ì ? Ý t ư ởn g l ớ n là tạ o r a m ột m ô hì n h c ho p h ép c h ú ng t a ư ớc tí n h
đư ợc x ác s uấ t m à th e o đó c ác tr ìn h tự n ên x ảy r a - m ặc d ù c hú n g ta c h ư a b a o g iờ n h ìn th ấy
r õ rà n g c ác tr ìn h t ự đ ó tr on g k h o v ăn bả n mà c h ún g t a đ ã x e m x ét . V à c ố t l õ i c ủ a C h a tG PT
c hí n h x ác là c á i g ọi là “ m ô hì n h n g ô n n gữ l ớ n” ( LL M) đư ợc x ây d ự ng đ ể t hự c hi ệ n tố t c ôn g
v i ệc ư ớc t ín h c ác x ác s uấ t đ ó.
Một Mô hình Là gì?
G i ả s ử bạ n m uố n b iế t ( nh ư G a l i l eo đ ã là m v à o c u ố i nh ữ n g nă m 1 50 0) mấ t ba o l âu đ ể m ộ t qu ả
đạ n đ ạ i bác r ơ i từ mỗ i tầ n g c ủa T há p P is a c hạ m đ ất . Ch à c h à, b ạn c h ỉ c ó t h ể đo l ư ờn g n ó
tro n g từ ng tr ư ờ ng h ợ p v à t ạ o r a m ột bả n g k ết qu ả . H oặc bạ n c ó t h ể l à m đ i ều c ốt y ế u c ủa
k ho a h ọc lý t h uy ế t: t ạo r a mộ t m ô h ì n h đư a r a m ột s ố l oạ i th ủ tục đ ể tí nh t oá n c â u tr ả l ờ i t h ay
v ì v i ệc c h ỉ đo lư ờ ng v à g hi nh ớ từ n g trư ờ ng h ợ p.
Hãy tư ởn g tư ợ n g r ằ n g c hú n g t a c ó ( h ơi đư ợ c lý tư ở ng h óa) dữ l iệ u v ề t h ờ i gi a n q u ả đ ạ i bác
r ơ i x u ốn g từ c ác t ầ ng k hác nh a u :
Là m t h ế n ào đ ể c h ún g ta bi ế t đư ợc s ẽ m ất ba o l â u đ ể [ qu ả đ ạ i b ác ] rơ i x u ố ng từ m ột tầ n g mà
c hú n g t a k h ôn g c ó đư ợc dữ l i ệu r õ rà n g? Tr on g trư ờ ng h ợ p c ụ th ể này , c hú n g t a c ó th ể s ử
dụ n g c ác đ ị nh l uậ t v ật lý đã bi ế t đ ể g iả i q uy ết n ó . Như n g g i ả s ử t ấ t c ả n hữ n g g ì c h ú ng t a c ó
l à dữ l i ệ u v à c h ún g t a k h ô ng bi ế t đ ịn h l u ật c ơ b ả n n ào c h i ph ố i n ó . S au đó , c h ún g t a c ó th ể
đư a r a mộ t p hỏ n g đo án v ề m ặ t t o án học , n hư v ậy c ó l ẽ c hú n g ta n ên s ử d ụn g m ột đư ờ ng
th ẳ ng là m m ô h ìn h :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ú ng t a c ó t h ể c h ọn c ác đư ờ ng t h ẳn g k h ác n h au . N hư n g đ ây l à d ữ li ệ u tr un g b ìn h g ầ n nh ấ t
v ớ i dữ l i ệu c h ú ng t a đ ã đư ợc c un g c ấ p. Và t ừ đư ờ n g t h ẳn g n ày ta c ó t h ể ư ớc l ư ợn g th ờ i g ia n
r ơ i c h o b ất k ỳ tầ n g n à o.
Là m t h ế nà o c h ú ng t a b iế t đ ể c ố g ắn g s ử d ụ ng mộ t đư ờ n g th ẳ ng ở đ ây ? Ở m ột mứ c đ ộ n ào
đó , c h ú ng t a đ ã k h ô ng b i ết . N ó c h ỉ l à mộ t t h ứ đ ơ n g i ả n v ề m ặ t to á n h ọc v à c h ú ng ta đã qu e n
v ớ i thự c t ế l à c ó r ấ t nh i ều dữ li ệ u m à c hú n g t a đo lư ờn g h óa r a lạ i r ất p h ù h ợp v ới n hữ n g thứ
đ ơn g i ả n v ề mặ t t o án học . Ch ú ng t a c ó th ể t hử m ột c á i gì đ ó p hứ c tạ p h ơn v ề m ặ t t o án h ọc c hẳ n g h ạn n hư a + bx + c x 2 - v à tr o n g trư ờ n g h ợ p này , c h ún g t a s ẽ l àm t ố t h ơn :
Tuy n h i ên , m ọ i t hứ c ó t h ể k h á s a i. G i ốn g n h ư đ ây là đ iề u t ốt nh ấ t c hú n g t a c ó t h ể l à m v ớ i a
+ b /x + c s i n( x ) :
Đi ề u đ án g đ ể tì m h i ểu l à k h ôn g b a o g i ờ c ó “ mô hì nh k hô n g - c ó- m ô- hì n h”. B ấ t k ỳ m ô h ìn h nà o
bạ n s ử d ụn g đề u c ó m ột s ố c ấu tr úc c ơ bả n c ụ t h ể - s au đ ó, m ột b ộ “nú t bấ m b ạn c ó th ể x o ay ”
nh ấ t đ ị n h (tứ c l à c ác th a m s ố b ạn c ó th ể đ ặt) đ ể p h ù h ợp v ớ i d ữ l i ệu c ủ a mì nh . V à t ron g
trư ờn g h ợ p c ủ a C ha t G PT , c ó r ấ t n h iề u “ n út b ấ m ” n hư v ậy đư ợc s ử d ụ ng - t hự c tế l à 17 5 tỷ
nú t b ấm .
Như n g đ i ề u đá n g c h ú ý l à c ấ u t r úc c ơ b ả n c ủa C ha tG PT - v ớ i “c h ỉ” c hừ ng đ ó t h am s ố - l à đủ
để t ạo ra m ộ t m ô h ìn h tí n h t o án x ác s u ất từ - ngữ - t i ếp- t he o “ đ ủ t ốt ” để c u n g c ấp c h o c hú n g t a
c ác đ oạ n v ă n b ản c ó đ ộ d ài h ợp lý .
Các Mô hình dành cho các Nhiệm vụ Giống-như-Con-người
Ví d ụ c h ú ng t ô i đư a r a ở tr ê n l iê n q ua n đ ế n v i ệc t ạ o r a m ột m ô hì n h c h o dữ l i ệu s ố h ọc v ề c ơ
bả n x uấ t ph át từ v ật l ý đ ơn g iả n - n ơ i m à c hú n g t a đ ã b iế t tr o ng nh i ề u t hế k ỷ r ằ ng “ á p dụ n g
to á n h ọc đ ơ n gi ả n” . N hư n g đố i v ớ i C h atG P T , c h ún g t a ph ả i t ạ o ra mộ t mô hì n h v ă n b ả n n gô n ngữ - c o n- ng ư ời th u ộc l oạ i đư ợc t ạo r a b ở i b ộ n ão c ủa c o n n gư ờ i. V à đ ố i v ớ i n hữ n g th ứ như
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
th ế, c hú n g t a ( ít n h ất l à c hư a) k h ô ng c ó b ất c ứ t hứ g ì g i ốn g n hư “t oá n h ọc đ ơ n g i ả n”. Vì v ậy ,
mộ t m ô h ìn h c ủ a n ó tr ôn g c ó t h ể s ẽ n hư th ế nà o ?
Trư ớc k h i c h ú ng ta b àn v ề n g ô n n gữ , h ãy nó i v ề n h i ệm v ụ g i ố n - như - c o n- ng ư ời k h ác : nh ậ n
d iệ n hì n h ả nh . V à n hư l à m ột v í d ụ đ ơ n g iả n v ề đ iề u n ày , h ãy x e m x ét h ìn h ả n h ba o g ồ m c ác
c on s ố (v à v â ng , đ ây l à m ột v í d ụ m áy h ọc c ổ đ iể n) :
Mộ t đ i ều c h ú n g ta c ó t hể t hự c h i ệ n l à l ấy m ộ t l oạ t c ác h ìn h ả nh mẫ u c h o mỗ i c h ữ s ố:
S au đ ó, đ ể t ìm h i ểu x e m mộ t h ì nh ả nh m à c h ún g ta đư ợc c un g c ấ p l àm đ ầu v à o c ó tư ơ ng ứ ng
v ớ i m ột c hữ s ố c ụ th ể h ay k h ô ng , c h ú ng ta c h ỉ c ầ n th ự c h iệ n s o s án h rõ r à ng t ừ n g - p ix e l v ớ i
c ác m ẫ u m à c hú n g t a c ó. Như n g v ới tư c ác h là c o n n gư ờ i, c h ún g t a c h ắc c hắ n d ư ờn g nh ư đã
l àm đ iề u g ì đ ó t ố t h ơ n - b ở i v ì c h ún g t a v ẫ n c ó t hể nh ậ n ra c ác c h ữ s ố, t h ậm c hí n gay c ả k h i
c hú n g đư ợc v i ế t tay c hẳ n g h ạn , v à c ó t ất c ả c ác k iể u s ử a đ ổ i v à b i ến dạ n g.
K hi c h ún g ta tạ o r a m ột m ô h ìn h c ho dữ l i ệ u s ố h ọc ở tr ê n, c hú n g t a c ó t hể l ấy mộ t g i á tr ị
bằ n g s ố x m à c hú n g t a đã đư ợc c u n g c ấp v à c h ỉ c ần tí n h a + bx c ho a v à b c ụ t hể . V ì v ậy ,
nế u c hú n g t a c o i g i á t r ị c ấp - đ ộ- x ám c ủ a mỗ i p ix e l ở đ ây l à m ột s ố b iế n x i t hì c ó mộ t s ố hà m
s ố nà o đ ó c ủa t ất c ả c ác b iế n đ ó mà - k h i đư ợc tí n h t o á n - c h o c hú ng t a b iế t hì n h ản h l à c hữ
s ố n à o k h ô ng ? H ó a r a là c ó t h ể x ây dự ng m ột hà m s ố n hư v ậy . T u y nh i ên , k h ô n g c ó gì đ án g
ng ạc n h iê n, n ó k h ô ng đ ặc b iệ t đ ơn g i ả n. V à mộ t v í dụ đ i ể n hì n h c ó th ể l i ê n qu a n đế n nử a
tri ệ u p hé p tí n h t oá n h ọc .
Như n g k ế t q u ả c u ố i c ù ng l à n ế u c h ú ng ta c u n g c ấ p t ậ p h ợ p c ác g iá trị p ix el c h o m ột hì n h ản h
v ào hà m s ố này t hì s ẽ x uấ t h i ện c on s ố c h ỉ đ ị nh c hữ s ố m à c h ú ng t a c ó mộ t hì n h ả nh c ủa nó .
Ti ếp t he o , c h ú n g t a s ẽ n ói v ề c ác h x ây dự n g mộ t hà m n hư v ậy v à ý tư ởn g v ề mạ n g lư ớ i t h ần
k i nh . N hư n g hi ệ n t ạ i, hãy c o i h àm n ày l à hộ p đe n, n ơ i c h ún g ta c un g c ấ p hì nh ả n h c ủa c ác
c hữ s ố v i ế t t ay ( d ư ới dạ n g m ản g g i á tr ị p ix e l) v à c h ú ng t a l ấy ra c ác s ố tư ơ ng ứ ng v ớ i:
Tuy n hi ê n, đ i ề u gì đ a ng t hự c s ự d i ễ n r a ở đây ? H ãy gi ả s ử r ằn g c h ún g t a là m m ờ d ầ n m ột
c hữ s ố . Tr o ng mộ t t h ời g i an ng ắ n, h à m c ủ a c hú n g ta v ẫn “ nh ậ n r a” nó , v à ở đây l à “ 2” . N h ư ng
ng ay s a u đ ó, h à m s ố “ đá n h m ất n ó” v à b ắ t đ ầu đư a r a k ết q u ả “ s a i ” :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Như n g t ại s a o c h ún g t ô i l ạ i n ó i đ ó l à k ế t q u ả l à “s a i” ? Tr o ng t rư ờ ng h ợp n ày , c hú n g tô i b i ết
r ằn g c hú n g t a c ó t ấ t c ả c ác hì n h ả n h b ằ ng c ác h l à m m ờ s ố “2 ”. N hư n g n ế u m ục t i êu c ủ a c h ú ng
ta là t ạ o r a mộ t m ô h ì nh v ề n hữ n g g ì c o n n gư ờ i c ó t hể thự c hi ệ n tro n g v i ệc n hậ n d ạ ng hì n h
ản h t hì c â u hỏ i t hự c s ự c ầ n đặ t r a l à c on n g ư ờ i s ẽ p hả i l à m gì n ếu đư ợc n hì n th ấy m ột tr on g
nhữ n g h ìn h ả nh m ờ đ ó m à k h ôn g b i ết nó đ ế n từ đ â u.
V à c hú n g t a c ó m ột “ m ô hì nh t ốt” n ế u k ết q u ả c h ún g ta n h ận đư ợc t ừ h à m s ố c ủ a m ìn h thư ờ ng
ph ù h ợ p v ớ i n hữ ng gì c on ng ư ời s ẽ n ó i. V à t hự c t ế k h o a h ọc k h ôn g c ầ n t h iế t l à đ ố i v ớ i mộ t
nh i ệ m v ụ n hậ n - dạ n g- h ìn h - ản h n hư t hế n ày , v ề c ơ b ả n th ì c h ún g t a đã bi ế t c ác h x ây dự n g c ác
hà m đ ể t hự c h iệ n đ i ề u n ày .
Ch ú ng t a c ó t hể “ c hứ n g m i nh v ề m ặ t to á n h ọ c ” r ằn g c h ú ng h oạ t đ ộ ng k hô n g ? Ồ , k h ô ng . B ở i
v ì đ ể là m đư ợc đ iề u đó , c h ú ng ta p h ải c ó m ột lý t h uy ế t t o án h ọc v ề n hữ n g gì c o n ngư ờ i c h ú ng
ta đa n g t hự c h i ện . H ãy lấy hì n h ả nh c ủa s ố “ 2” v à t h ay đ ổ i m ột v à i đ iể m ả n h. C h ú ng t a c ó t h ể
tư ởn g t ư ợn g r ằn g c h ỉ v ớ i mộ t v à i p ix e l n ằm “ k hô n g đ ú ng c h ỗ”, c h ún g t a v ẫn n ên c o i h ì nh ản h
l à “ 2” . N hư n g đi ề u n à y n ê n đ i x a đ ến mứ c nà o ? Đ ó l à mộ t c â u h ỏ i th u ộc v ề n hậ n t hứ c trự c
qu a n c ủ a c on n gư ờ i. V à, v â ng , c â u t rả l ờ i c h ắc c h ắ n s ẽ k h ác đ ố i v ớ i o n g h o ặc bạc h t u ộc - v à
c ó k h ả nă n g h oà n t oà n k h ác đ ố i v ớ i n gư ờ i n g oà i h à nh t i n h đư ợc g i ả đ ị nh
Mạng Thần kinh
Tốt t h ô i, v ậy n hữ ng m ô hì n h đ iể n h ìn h c ủ a c hú n g ta c h o n hữ ng nh i ệm v ụ như nh ậ n dạ n g hì n h
ản h thự c s ự h o ạt đ ộ ng nh ư t h ế n à o? P hư ơ n g ph á p t i ế p c ậ n h iệ n tạ i p h ổ b iế n n hấ t – v à t h àn h
c ôn g n h ất – s ử d ụn g c ác m ạ ng t h ần k i nh . Đư ợc p h át m in h - ở d ạn g rấ t g ầ n v ớ i c ác h s ử d ụn g
ng ày n ay - v ào n hữ ng nă m 1 94 0 , m ạ n g lư ớ i t hầ n k i nh c ó t hể đư ợc c o i là s ự lý tư ở n g hó a đ ơn
g iả n v ề c ác h t hứ c b ộ nã o h o ạt đ ộ ng .
Tro ng b ộ n ão c ủ a c o n n gư ờ i c ó k h o ả ng 1 0 0 tỷ n ơ - r on , mỗ i n ơ- r o n c ó k hả n ă ng t ạo ra mộ t
x un g đ iệ n c ó l ẽ lê n đ ế n hà n g n g à n n h ị p mỗ i g iây . C ác n ơ- r o n đ ư ợ c k ết n ố i t h à nh m ột m ạn g
lư ớ i t i nh v i, v ớ i m ỗ i n ơ - r o n c ó c ác n há n h g i ố ng - h ìn h- c ây c h o p h ép nó c huy ể n t ín h iệ u đ i ệ n tử
c ho (c ó l ẽ) h àn g n g àn n ơ - r o n k h ác . Và t h eo m ột ph é p tí n h g ần đ ú ng , v i ệc b ất k ỳ n ơ - r o n c ụ
th ể n à o t ạo r a x u n g đ i ện tạ i mộ t t h ờ i đ i ể m n hấ t đ ị n h h ay k h ô ng ph ụ t hu ộc v ào l oạ i x un g mà
nó n hậ n đư ợc từ c ác n ơ- r o n k h ác - v ớ i c ác k ế t n ối k h ác n ha u đó n g g óp b ằn g c ác “ trọ n g l ư ợ ng”
k hác nh a u.
K hi c h ú ng t a “ nh ì n t h ấy mộ t hì n h ản h” , n hữ ng g ì đa n g x ảy r a là r ằn g k h i c ác ph ô - tô n g án h
s án g từ h ìn h ả nh c hi ế u v ào c ác t ế b à o (“ th ụ th ể c ả m qu a ng ”) nằ m ở p hí a s a u m ắt, c hú n g t ạo
r a c ác tí n h i ệu đ iệ n t r o ng c ác t ế b à o t hầ n k in h. C ác t ế bà o t h ần k i n h n ày đư ợc k ết n ối v ớ i c ác
tế b ào t h ần k i n h k hác , v à c u ố i c ù ng c ác tí n h iệ u đ i q ua t oà n b ộ c hu ỗ i c ác l ớ p t ế b ào t hầ n
k i nh . V à tro n g qu á tr ì nh n ày , c hú n g ta “n h ậ n r a” hì n h ả nh , c u ố i c ùn g “ h ìn h t hà n h nê n s uy
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
ng h ĩ” rằ n g c h ún g t a đa ng “ n hì n t hấ y m ột s ố 2 ” (v à c ó th ể c u ố i c ù n g l àm đ iề u gì đó nh ư n ó i t o
từ “ h ai” ).
Hà m “ hộ p - đe n” từ p h ầ n tr ư ớc l à m ột p hi ê n b ản đư ợc “t o á n h ọc h ó a” c ủ a mộ t m ạ ng th ầ n k i nh
như v ậy . N ó tì n h c ờ c ó 1 1 l ớ p ( m ặc d ù c hỉ c ó 4 “ l ớ p l õ i”):
K hô n g c ó gì đặc b iệ t “ c ó n g uồ n g ốc t ừ lý th uy ế t ” v ề m ạn g lư ớ i t h ần k i nh n ày , nó c h ỉ l à mộ t
thứ gì đ ó - v ào nă m 1 99 8 – đ ã từ n g đư ợc x ây dự ng như mộ t p hầ n c ủ a k ỹ t h uậ t, v à đư ợc c h o
l à đã h o ạt đ ộn g . ( T ất nh i ê n, đ i ều đ ó k h ôn g k hác n h i ều s o v ới c ác h c hú n g ta c ó t hể m ô t ả v ề
bộ nã o c ủ a mì n h đ ã đ ư ợc t ạo r a th ô ng qu a qu á tr ìn h t iế n h ó a v ề mặ t s i n h học ) .
O K , m ộ t m ạ n g lư ới t hầ n k in h n hư t h ế n ày “ n h ận ra m ọ i t hứ ” n hư t h ế nà o ? Đ i ề u qu a n tr ọ ng l à
k há i n i ệm v ề n gư ờ i t h u h ú t. Hãy tư ở n g tư ợ n g r ằn g c hú n g t a đ ã c ó đư ợc hì nh ả n h v iế t t ay c ủa
c ác s ố 1 v à 2 :
B ằn g c ác h n ào đó , c h ún g t a m uố n t ất c ả nh ữ ng s ố 1 “b ị t h u hú t đ ến mộ t n ơ i” v à t ất c ả n hữ n g
s ố 2 “ b ị t h u hú t đế n m ột n ơ i k h ác ” . H oặc , nó i m ột c ác h k hác , n ếu m ột h ìn h ả nh b ằ ng c ác h nà o
đó “ gầ n v ớ i s ố 1” h ơ n l à s ố 2, t h ì c hú n g ta m uố n n ó k ế t th úc ở “v ị t rí s ố 1” v à n gư ợc l ạ i .
Nó i mộ t c ác h dễ h i ểu , gi ả s ử c hú n g t a c ó m ột s ố v ị tr í n hấ t đị n h t rên m ặt p hẳ n g, đư ợc b iể u
th ị b ằn g c ác d ấ u c hấ m ( tr on g b ố i c ả nh đ ờ i- s ốn g- thự c - t ế, c h ú ng c ó t hể là v ị tr í c ủ a c ác q uá n
c à p hê) . S a u đó , c h ún g ta c ó t h ể tư ở ng tư ợ ng r ằn g đ i ểm k h ởi đầ u từ b ất k ỳ đ iể m n à o trê n
mặ t p hẳ n g , c h ún g ta l uô n m uố n k ế t t h úc ở đ iể m g ần n h ất ( tứ c l à c hú n g t a l u ôn đ i đ ến q uá n
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
c à p hê gầ n n h ất) . C hú ng t a c ó th ể b i ểu d iễ n đ i ề u n ày b ằn g c ác h c h ia mặ t p hẳ n g t hà n h c ác
v ùn g ( “ lư u v ự c t hu hú t ” ) đư ợc ph â n tác h b ằ n g “ đư ờ ng ph â n nư ớc ” đã đư ợc lý tư ở ng hó a.
Ch ú ng t a c ó t h ể c o i đ i ều n ày g iố n g như t hự c h iệ n m ột l o ại “n h i ệm v ụ nh ậ n dạ n g”, tr on g đ ó
c hú n g t a k h ôn g thự c h iệ n đ iề u gì đ ó như x ác đị n h c hữ s ố n à o m à mộ t hì nh ả n h n h ất đ ịn h
“ trô n g g i ốn g n hấ t” - m à th ay v à o đ ó, c hú n g t a c h ỉ , k há tr ự c ti ế p , x em x ét x e m đ i ể m n ào gầ n
nh ấ t v ớ i đi ể m đ ã c h o . ( Th i ết lậ p “ S ơ đ ồ Vor o no i” mà c h ún g t ô i đ a ng tr ìn h bày ở đ ây ph â n t ác h
c ác đ i ểm t ro n g k h ôn g g ia n E uc l i de 2D ; n hi ệ m v ụ n h ận dạ n g c hữ s ố c ó t h ể đư ợc c o i là t hự c
h iệ n m ột v i ệc g ì đó r ấ t g iố n g - n hư ng tr on g k h ôn g g i an 7 8 4 - c h i ề u đư ợc hì n h th à nh từ c ác m ứ c
x ám c ủa t ất c ả c ác p ix e l tr o n g m ỗi hì nh ản h) .
V ậy là m t hế n à o để c h ún g ta t ạ o r a mộ t m ạn g lư ớ i th ầ n k in h “ t hự c h iệ n n hi ệ m v ụ nh ậ n dạ ng” ?
Hãy x e m x é t tr ư ờ ng h ợ p r ất đ ơn g i ả n n ày :
Mục đ íc h c ủ a c hú n g t a l à lấy m ột “ đ ầu v à o” t ư ơ ng ứ n g v ớ i mộ t v ị t rí { x ,y } – v à s au đ ó “ n hậ n
r a” n ó là đ i ểm nà o t r o ng b a đ i ểm m à n ó g ầ n nh ất . H ay n ó i c ác h k hác , c h ú ng ta m uố n m ạn g
th ầ n k i nh t ín h t oá n m ộ t hà m c ủ a { x ,y } n hư :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V ậy , l à m t h ế nà o đ ể c hú n g t a t hự c hi ệ n đ iề u n ày v ớ i mộ t m ạn g lư ớ i th ầ n k in h ? Cu ố i c ùn g th ì
mộ t m ạn g lư ớ i t hầ n k i nh l à m ột t ậ p h ợ p c á c “n ơ - r o n” đư ợc lý tư ở ng h ó a đư ợc k ết n ố i v ớ i
nh a u - t hư ờ ng đư ợc s ắp x ếp t h eo l ớp - v ớ i mộ t v í d ụ đ ơ n g iả n l à như s au :
Mỗ i “ n ơ- r o n” đ ư ợc đ ặt mộ t c ác h h i ệu q uả đ ể t ín h t o án m ột h à m s ố đ ơ n g i ả n. V à đ ể “s ử d ụ ng”
mạ n g lư ớ i, c h ú n g t a c h ỉ c ần c u n g c ấp c ác c on s ố (n hư t ọa đ ộ x v à y ) ở trê n c ù ng , s a u đ ó c ó
c ác n ơ- ro n tr ê n mỗ i l ớ p “ t ín h to á n h à m c ủ a c hú n g” v à đư a k ết q u ả c h uy ển t iế p q ua m ạ ng c uố i c ù n g tạ o r a k ết q uả s au c ù n g ở d ư ới c ù ng
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Tro ng th i ết l ậ p tr uy ền th ố ng ( đư ợc t r uy ề n c ả m hứ n g từ s i n h h ọc ), mỗ i n ơ - r on t hự c s ự c ó mộ t
tậ p h ợ p “ c ác k ế t n ố i đ ến” n hấ t đ ị nh từ c ác n ơ - r o n tr ên l ớ p trư ớc đ ó, v ớ i m ỗ i k ế t n ố i đư ợ c g á n
mộ t “ trọ n g s ố” nh ất đ ị nh ( c ó t hể l à s ố dư ơ n g ho ặc s ố âm) . G i á t rị c ủ a m ộ t n ơ - ro n n hấ t đ ịn h
đư ợc x ác đ ịn h bằ n g c ác h n hâ n gi á tr ị c ủ a “c ác n ơ - r o n trư ớc đ ó” v ớ i tr ọ ng s ố tư ơ n g ứ n g c ủa
c hú n g, s a u đ ó c ộn g c ác g iá tr ị n ày l ạ i v à n hâ n v ớ i m ộ t hằ n g s ố - v à c u ố i c ùn g á p d ụn g m ột
hà m “ n gư ỡn g” ( ho ặc “ k íc h ho ạ t” ) . V ề mặ t t o án h ọc , nế u m ột n ơ - r o n c ó đ ầu v à o x = {x 1 , x 2 …}
th ì c h ú ng t a t ín h f[ w . x + b] , tr o ng đ ó tr ọ n g s ố w v à hằ n g s ố b th ư ờ ng đư ợc c h ọn k h ác n ha u
c ho mỗ i n ơ - r o n tr on g mạ n g; v à hà m f t hư ờ n g l à g iố n g n ha u.
V iệc tí nh to á n w. x + b c h ỉ là v ấn đề v ề n hâ n v à c ộn g m a tr ậ n. “H à m k íc h h oạ t” f đư a ra t ín h
ph i t uy ế n tí n h ( v à c uố i c ù n g l à t hứ dẫ n đế n h àn h v i k h ô ng c ần th i ết) . Các h àm k íc h ho ạ t k há c
nh a u th ư ờn g đư ợc s ử dụ n g; v à ở đ ây c h ún g tô i s ẽ c h ỉ s ử d ụn g R a mp ( ho ặc R eL U) :
Đố i v ớ i mỗ i n h iệ m v ụ mà c hú n g ta m u ốn mạ ng t h ần k in h t hự c h iệ n ( h oặc tư ơ n g đư ơ ng , đ ố i
v ớ i từ n g h àm t ổ ng t hể mà c h ú ng t a m uố n n ó t ín h to á n ) , c h ú ng t a s ẽ c ó c ác lự a c họ n v ề trọ ng
s ố k hác n ha u . ( Và – n hư c hú n g t a s ẽ th ả o l uậ n s a u – n hữ ng tr ọ n g s ố n ày thư ờ n g đư ợc x ác
đ ịn h b ằ ng c ác h “ đ ào t ạo” c h o m ạn g lư ớ i th ầ n k i n h b ằn g c ác h s ử d ụn g m áy học t ừ c ác v í d ụ
ba o g ồ m c ác k ế t qu ả đ au à r a mà c h ú ng t a m on g m u ốn) .
Cu ố i c ù n g, m ọ i m ạ ng l ư ớ i t h ần k i n h c h ỉ tư ơn g ứ n g v ớ i mộ t v ài h à m t o á n h ọc t ổ ng t hể n ào đó
– m ặc dù v iế t r a c ó t h ể h ơ i l ộn x ộn . Đố i v ớ i v í dụ ở tr ên , n ó s ẽ l à :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Mạ n g lư ớ i t h ần k in h c ủa C h atG P T c ũn g c h ỉ tư ơn g ứ n g v ớ i mộ t h à m to á n h ọc g iố n g n hư v ậy
– n hư n g h i ệu qu ả v ớ i hà n g tỷ th u ật n gữ .
Tuy n h iê n , hãy qu ay l ạ i v ớ i c ác n ơ- r o n r iê n g l ẻ. Dư ớ i đ ây l à m ột s ố v í d ụ v ề c ác h à m m à mộ t
n ơ- r on c ó h a i đ ầu v à o ( đ ạ i d iệ n c h o t ọ a đ ộ x v à y ) c ó t h ể tí nh t o án m ộ t l oạ t c ác lự a c họ n
trọ n g s ố v à h ằ ng s ố k hác nh a u :
Như n g c ò n mạ n g lư ớ i l ớ n h ơn ở p hí a tr ên t h ì s ao . C hà , đ ây l à nh ữ ng gì n ó tí n h to á n :
Nó k h ô ng ho à n to à n “ đ ún g” , n hư n g n ó g ầ n v ớ i h à m “ đ iể m g ầ n n hấ t” mà c hú n g tô i đã tr ì nh bày
ở tr ên .
Hãy c ù ng x e m x ét đ i ều gì x ảy r a v ớ i m ột s ố m ạn g lư ớ i th ầ n k in h k h á c . Tr on g m ỗi trư ờ n g h ợ p,
như c h ún g tô i s ẽ g i ả i th íc h s a u, c hú n g t a đ an g s ử dụ n g c ô n g n g hệ m áy h ọc để tì m r a lự a
c họ n tr ọn g s ố tố t nh ấ t . Sa u đ ó, c h ú ng t a đa ng tr ìn h b ày ở đ ây nh ữ ng g ì m à mạ n g lư ớ i t hầ n
k i nh v ớ i nh ữ n g tr ọn g s ố đ ó đa n g tí n h to á n :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Các m ạ ng l ư ới l ớn h ơ n t hư ờ n g ho ạt đ ộ n g t ố t h ơ n tr on g v i ệc tí n h t oá n x ấ p x ỉ h àm m à c h ún g
ta đ an g hư ớ ng t ớ i. V à ở “ g iữ a m ỗ i lư u v ự c t hu h út” , c hú n g t a t hư ờ ng n hậ n đư ợc c hí n h x ác
c âu tr ả l ờ i m à c hú n g t a mo n g m uố n. N hư ng tạ i c ác r a nh g i ớ i - n ơ i m à mạ n g lư ớ i th ầ n k i nh
“ k hó đư a r a q uy ế t đ ịn h ” - m ọi t hứ c ó t h ể tr ở nê n l ộ n x ộ n h ơn .
V ớ i “ n h iệ m v ụ n h ận dạ ng” k i ểu - to á n- học đ ơ n g iả n n ày , c h ú n g ta r õ r àn g v ề “c âu tr ả l ờ i đ ú n g”
l à gì . N hư ng tr o n g v ấ n đ ề nh ậ n d ạn g c ác c h ữ s ố v i ết tay , s ẽ k hô n g rõ r àn g như v ậy . Đi ề u g ì
s ẽ x ảy r a nế u a i đ ó v i ết s ố “ 2” q u á tệ tr ôn g g iố n g như s ố “7 ”, v .v …? T uy nh i ê n, c h ún g ta c ó
th ể h ỏ i v ề c ác h m ột m ạn g lư ớ i t hầ n k in h p h â n b i ệt c ác c hữ s ố n hư th ế n à o - v à đ i ề u n ày đư a
r a m ột d ấ u h iệ u :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ú ng t a c ó t h ể n ói “ v ề m ặt t o án học ” c ác h mà mạ n g lư ớ i t ạ o r a s ự k h ác b i ệt k hô n g? Kh ôn g
c hắc . N ó c hỉ là “ l àm n hữ n g g ì m ạn g lư ớ i t h ầ n k i nh là m ” . Như n g h ó a r a đ i ều đ ó t hư ờn g tr ôn g
c ó v ẻ k h á p hù h ợ p v ới n hữ ng k hác b i ệt mà c on ngư ờ i c h ú ng t a t ạo ra .
Hãy l ấy m ột v í d ụ p hứ c t ạ p h ơ n. G i ả s ử c h ú ng ta c ó h ì nh ản h c ủa mè o v à c h ó. V à c h ú n g t a
c ó m ột m ạ ng lư ớ i th ầ n k i n h đã đư ợc đ ào t ạ o đ ể p hâ n b i ệt c h ú ng . Đ ây là n hữ n g gì n ó c ó t hể
thự c tr ê n m ột s ố v í d ụ :
G i ờ th ì “ c â u t r ả l ờ i đ ú ng” là g ì th ậ m c hí c ò n ít rõ rà n g h ơn . Nế u m ột c h ú c hó mặc b ộ đ ồ c ủa
mè o t hì s a o ? V .v … Bấ t k ể đầ u v à o đư ợc c u n g c ấ p l à gì , m ạn g lư ớ i t hầ n k i n h c ũ ng s ẽ t ạ o ra
mộ t c â u tr ả l ời . V à , t hà n h r a , t hự c h i ện đ i ều đó th e o c ác h n h ất qu á n m ột c ác h h ợ p lý v ớ i
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
nhữ n g gì c on n gư ờ i c ó t h ể l à m. N hư t ô i đ ã nó i ở trê n , đ ó k hô n g p hả i l à s ự t h ật m à c h ú n g t a
c ó t h ể “r út ra từ n hữ n g ng uy ên t ắc đầ u t iê n” . N ó c h ỉ l à mộ t c á i gì đ ó mà t h eo k i n h ng h i ệm đ ã
đư ợc c hứ n g mi n h l à đ ún g , ít n hấ t là tro n g m ột s ố l ĩ nh v ự c n hấ t đ ị n h. Như n g đ ó là lý do c hí n h
k h iế n m ạn g lư ớ i t h ần k i nh tr ở n ê n hữ u íc h : bằ n g c ác h nà o đ ó, c h ú ng n ắ m b ắt đư ợc m ộ t c ác h
thứ c là m v i ệc “ g i ố ng - n hư - c on- n gư ờ i”.
Nế u c h o b ạn x e m b ứ c tr a n h v ề m ột c o n m è o v à h ỏi “T ạ i s a o đây lạ i l à c o n m èo ?” . Có t h ể bạ n
s ẽ b ắ t đ ầ u n ó i “ C h à, t ô i t hấy đư ợc đô i ta i n h ọn c ủ a n ó , v .v …”. Nh ư ng k h ôn g dễ đ ể g i ả i t h íc h
v ề c ác h t hứ c b ạn n hậ n r a h ìn h ản h đó l à m ộ t c o n mè o như th ế nà o . C hỉ l à bằ n g c ác h nà o đó
bộ n ã o c ủ a bạ n đ ã tì m r a đ i ề u đó . Nh ư n g đ ố i v ớ i m ộ t bộ nã o t hì h ầ u nh ư k hô n g c ó c ác h nà o
( ít n h ất l à c h o đ ến n a y ) đ ể “ đ i v à o b ên tr o n g” v à x e m n ó tì m r a c âu tr ả l ờ i n hư t hế nà o . C ò n
đố i v ớ i m ộ t mạ n g lư ớ i t hầ n k in h ( n h â n tạ o) t hì s a o ? C hà , t hậ t đ ơ n g iả n đ ể x e m m ỗ i “n ơ - r on”
l àm gì k h i b ạn đư a r a bứ c ả n h v ề mộ t c o n m èo . N hư ng ng ay c ả đ ể c ó đư ợc m ột h ì nh du n g c ơ
bả n t hư ờ ng là đ i ề u r ất k h ó k h ăn .
Tro ng m ạn g c uố i c ù ng mà c h ún g t ô i đã s ử d ụn g c ho b ài t oá n “ đ iể m g ầ n n h ất” ở trê n , c ó 1 7
n ơ- r on . T ro n g m ạn g n hậ n d ạ ng c ác c hữ s ố v i ết t ay c ó 2 ,1 9 0. Và t ron g m ạ ng c hú n g tô i đ an g
s ử d ụ ng để nh ậ n dạ n g c h ó v à m è o c ó 6 0 , 6 50 . T h ôn g t hư ờn g , s ẽ rấ t k h ó đ ể h ìn h d un g v ề mộ t
k hô n g g i an 6 0 , 65 0 c hi ều l à b a o n h iê u. Như n g v ì đ ây là m ột mạ n g đ ư ợc t h i ết lậ p để x ử lý hì n h
ản h n ên rấ t n h iề u l ớ p tế b à o t h ần k in h c ủ a n ó đư ợc tổ c hứ c t h àn h c ác mả n g, g i ố ng n hư c ác
mả n g p ix el mà n ó đ a n g x e m x ét .
V à nế u c h ún g ta l ấy m ột bứ c ả nh c o n m èo đ i ể n hì nh , s a u đó c h ú ng t a c ó t h ể th ể h iệ n c ác tr ạn g
th á i c ủa c ác n ơ - r o n ở l ớ p đ ầ u ti ê n bằ n g c ác h mộ t tậ p h ợ p c ác hì n h ản h d ẫn x u ất – r ất n h iề u
tro n g s ố n ày c hú n g ta c ó t hể dễ dà n g d i ễn g i ả i th à nh thứ gì đó g iố n g n hư “m ộ t c h ú m è o k h ôn g
c ó n ền” h o ặc “ đư ờ n g v i ền c ủ a c h ú m è o”.
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Đế n l ớ p t hứ 1 0 th ì c à n g k h ó d iễ n g i ải h ơn v ề đ i ều gì đ a ng x ảy r a:
Như n g n ó i c h u n g, c hú ng ta c ó th ể nó i r ằn g mạ n g lư ớ i t hầ n k i nh đ an g “c họ n r a mộ t s ố đ ặc
đ iể m nh ấ t đị n h” ( c ó t h ể s ẽ c ó đ ô i t a i nh ọ n t r on g s ố đó ) v à s ử d ụ n g nhữ n g đặc đ i ểm n ày đ ể
x ác đ ị nh x em hì n h ả nh đ ó là gì . Tuy nh i ê n, n hữ n g đặc đ iể m đ ó c ó p hả i là n hữ n g đ ặc đi ể m mà
c hú n g ta đã đ ặ t tê n - c hẳ n g h ạn n hư “ đô i t a i nh ọ n” – h ay k h ôn g ? H ầu hế t l à k h ôn g.
B ộ nã o c ủ a c h ú ng t a c ó s ử dụ n g c ác tí n h nă ng tư ơ n g tự k h ô ng ? H ầu như c hú n g ta k h ô n g th ể
b iế t. N hư ng đi ề u đ án g c h ú ý l à mộ t s ố l ớp đ ầu t i ê n c ủ a mạ n g lư ớ i t hầ n k i n h g i ốn g n hư l ớ p
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
mà c h ú ng tô i đ an g tr ì n h b ày ở đây dư ờ n g n h ư c h ọn r a c ác k h í a c ạ nh c ủ a h ì nh ả nh (n hư c ác
c ạn h b iê n c ủa v ật th ể) t r ô n g c ó v ẻ g i ố ng v ớ i nhữ n g g ì c hú n g t a b i ết đư ợc c họ n r a ở c ấ p độ
x ử lý hì nh ản h đ ầ u ti ê n tr o n g n ão .
Như n g gi ả s ử c h ú ng t a mu ố n c ó mộ t “ lý th u y ết n hậ n d ạn g m èo” tr on g m ạn g lư ớ i th ầ n k i nh .
Ch ú ng t a c ó th ể n ói : “ Hãy n hì n x e m, m ạ ng c ụ th ể n ày là m đư ợc đ iề u đ ó” - v à n gay lậ p tứ c
đ iề u đ ó tạ o r a c h ú ng t a c ả m nh ậ n v ề “v ấ n đ ề k hó đế n mứ c n à o” ( v à, v í d ụ, c ó t h ể c ầ n ba o
nh i ê u n ơ- ro n h o ặc l ớ p ) . N hư n g ít n hấ t , c ho đế n t h ời đi ể m h iệ n t ạ i , c hú n g t a k h ô ng c ó c ác h
nà o đ ể “đ ư a r a m ột m ô t ả dạ n g t ư ờn g th u ật” v ề nhữ n g gì m à mạ n g đa n g t hự c h i ện . V à c ó lẽ
đó là b ở i v ì nó t hự c s ự k h ôn g t hể r ú t g ọn v ề mặ t tí n h t o án v à k h ô ng c ó c ác h th ứ c k há i qu á t
nà o đ ể t ìm ra n hữ ng g ì n ó l àm n g oạ i trừ v i ệ c truy t ìm từ ng bư ớc mộ t c ác h rõ rà n g. H oặ c c ó
th ể c h ỉ là c h ún g t a c h ư a “ t ìm h iể u k h o a h ọ c ”, v à đ ã c hư a x ác đ ị nh đư ợc “c ác q uy l u ậ t tự
nh i ê n” c h o ph é p c h ún g t a tó m t ắt v ề nhữ n g g ì đa n g d iễ n ra .
Ch ú ng t a s ẽ g ặp ph ả i c ác l o ại s ự c ố tư ơ ng t ự k hi n ói v ề v i ệc t ạ o r a n gô n ngữ v ớ i C h atG PT .
V à mộ t l ầ n nữ a , k h ôn g r õ r ằ n g l iệ u c ó c ác h n ào đ ể “t óm t ắ t nhữ n g gì n ó đ an g t hự c h iệ n ” hay
k hô n g. N hư n g s ự p ho ng p h ú v à c h i ti ế t c ủ a ng ô n ngữ (v à k i n h n g h iệ m c ủa c h ú ng t a v ớ i nó )
c ó th ể c h o p hé p c h ú ng t a ti ế n x a h ơ n s o v ới hì n h ản h .
Má y họ c, v à Đ ào tạ o cá c M ạng l ư ới Th ần kin h
Ch o đ ế n n ay , c hú n g ta đ ã n ó i v ề mạ n g l ư ới t hầ n k in h “đ ã t hự c s ự b iế t” c ác h l à m t hể nà o đ ể
thự c h i ện c ác tác v ụ c ụ t h ể. Nh ư n g đ iề u l àm c ho m ạ ng lư ớ i t hầ n k i nh tr ở nê n hữ u íc h (c ó l ẽ
c ũn g c ó tr o ng b ộ nã o ) l à v ề n guy ê n t ắc , c h ún g k hô n g c hỉ c ó th ể thự c h i ện tấ t c ả c ác l oạ i
nh i ệ m v ụ m à c ò n c ó th ể đư ợc “ đ à o tạ o từ c á c v í d ụ” d ần dầ n đ ể t h ự c h i ệ n c ác n hi ệ m v ụ đó .
K hi c h ú ng ta t ạo r a m ột m ạn g lư ớ i t h ần k i n h đ ể ph â n bi ệ t m è o v ớ i c hó , c h ú ng t a t hự c s ự
k hô n g ph ả i v i ết r a m ộ t c hư ơ ng tr ìn h (g i ả s ử ) đ ể t ì m k iế m râ u c ủ a mè o m ột c ác h r õ r à ng , th ay
v ào đó , c h ún g t a c h ỉ h i ển t h ị r ấ t n h iề u v í d ụ v ề v i ệc t hế n à o l à m è o v à th ế n à o l à c h ó, s au đ ó
để mạ n g “ m áy h ọc ” từ nhữ n g c ác h n ày để ph ân bi ệ t c hú n g.
V à v ấ n đề l à m ạn g đư ợc đ à o tạ o “ k h á i q u át hó a” từ c ác v í d ụ c ụ t h ể m à n ó đ ã đư ợc tr ìn h bày .
Như c hú n g ta đã t h ấy ở tr ê n, k h ô ng c hỉ đ ơn g iả n l à m ạ ng nh ậ n r a mẫ u p ix e l c ụ t h ể c ủa h ìn h
ản h c o n mè o l à m m ẫ u mà nó đư ợc tr ìn h b ày , đú n g h ơ n l à m ạ ng lư ớ i t h ần k in h b ằ n g c ác h n ào
đó q u ản lý để p h ân bi ệt c ác h ìn h ả n h tr ê n c ơ s ở n hữ n g gì c h ún g t a c o i là mộ t l oạ i “m è o n ó i
c hu n g”.
V ậy , là m t h ế n ào để q uá tr ì nh đ ào t ạ o m ạ ng lư ới th ầ n k i n h th ự c s ự h o ạt độ n g? V ề c ơ b ản ,
nhữ n g gì c h ún g t a l uô n c ố g ắ ng th ự c h i ệ n l à tì m r a c ác tr ọn g s ố g i úp m ạ ng lư ớ i th ầ n k in h t á i
tạ o th à nh c ô n g c ác v í d ụ m à c h ú ng t a đã đ ư a ra . V à s au đ ó, c h ú ng t a dự a v ào m ạ ng lư ới t hầ n
k i nh đ ể “n ộ i s uy ” ( h o ặ c “ k h á i q uá t h óa” ) “ g iữ a” c ác v í d ụ n ày th e o mộ t c ác h “ h ợ p lý ” .
Hãy x em x ét mộ t b à i t oá n t h ậm c hí c òn đ ơn g iả n h ơ n b à i t o án đi ể m - gầ n- nh ấ t ở t rê n. Hã y t hử
l ấy mộ t m ạ ng lư ớ i th ầ n k i nh để t ìm hi ể u c hứ c n ă ng :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V ớ i n h iệ m v ụ n ày , c h ún g t a s ẽ c ầ n đ ế n m ộ t m ạn g lư ớ i c h ỉ c ó m ộ t đ ầu v à o v à mộ t đ ầ u r a,
g iố n g nh ư :
Như n g c h ú ng ta n ên s ử dụ n g n hữ n g tr ọn g s ố n à o, v .v … ? V ớ i m ỗ i t ậ p h ợ p tr ọ n g s ố k hả dĩ ,
mạ n g lư ớ i t hầ n k i n h s ẽ tí n h t o á n mộ t s ố h à m s ố. Và , v í d ụ, d ư ới đây là nhữ n g gì mà n ó t hự c
h iệ n v ớ i m ộ t v à i tậ p h ợ p c ác tr ọn g s ố đư ợc lự a c h ọn m ộ t c ác h ng ẫ u n hi ê n :
V à, đ ú ng t h ế, c h ún g t a c ó th ể t hấy m ộ t c ác h r õ r à ng r ằn g k h ôn g c ó trư ờn g h ợ p n ào tr o ng s ố
này t hậ m c hí t iế n g ần đế n v i ệc t á i t ạ o lạ i h à m s ố m à c h ún g ta m o ng m u ốn . Vậy l à m t h ế nà o
để c hú n g ta t ìm r a đư ợc c ác tr ọ ng s ố s ẽ tá i tạ o l ạ i đư ợc h à m s ố?
Ý tư ở ng c ơ b ả n l à c u ng c ấ p n h iề u v í dụ “đ ầu v à o → đ ầ u r a” để “ học h ỏ i từ đó ” – v à s a u đó
c ố g ắn g t ì m r a c ác tr ọ ng s ố s ẽ tá i t ạ o l ạ i c á c v í dụ n ày . Dư ớ i đây là k ết qu ả c ủ a v iệc t hự c
h iệ n đ i ều đ ó v ới nh i ề u v í d ụ g i a tă n g dầ n d ầ n:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ở mỗ i g i ai đ o ạn tr o ng qu á tr ì n h “ đà o tạ o” n à y , c ác tr ọn g s ố tro n g mạ n g lư ớ i đư ợc đi ề u c h ỉn h
dầ n dầ n - v à c hú n g t a nh ậ n r a r ằ n g c u ố i c ùn g c h ú ng t a đ ã c ó đư ợc mộ t mạ n g t á i t ạ o lạ i t hà n h
c ôn g h à m s ố m à c h ún g ta mo n g m uố n . V ậy l àm t h ế n ào để c h ú n g t a đ iề u c h ỉ n h c ác tr ọn g s ố ?
Ý tư ở ng c ơ bả n l à ở t ừ ng gi a i đ oạ n, h ãy x e m x ét “c h ú ng t a c ò n c ác h b a o x a” đ ể đạ t đ ư ợc
hà m s ố m à c h ún g ta m uố n - v à s a u đ ó c ập n hậ t c ác trọ n g s ố th e o c ác h t hứ c đ ể t i ế n gầ n h ơn .
Để tì m h i ểu “ c h ú ng t a c ò n c ác h b a o x a ” c hú ng t a s ẽ tí nh t oá n c á i thư ờ n g đư ợc gọ i l à “ h àm
tổ n th ất ” ( ho ặc đ ôi k h i l à “ hà m c h i ph í ” ) . Ở đâ y , c h ú ng t ô i đa n g s ử d ụn g m ột h à m t ổ n t h ất ( L2)
đ ơn g i ản , c h ỉ l à t ổn g bì n h p hư ơ ng c ủ a s ự k hác b i ệt gi ữ a c ác gi á t rị c hú n g t ô i n h ận đư ợ c v à
c ác gi á tr ị thự c . V à nh ữ ng g ì c h ú n g ta t hấy l à k hi q u á t rì nh đ à o t ạ o c ủa c h ú ng t a t i ế n tr i ển ,
hà m t ổ n t hấ t g i ảm dầ n ( t u ân th e o m ột “ đư ờn g c o ng học tậ p” nh ất đ ị nh k hác nh a u đ ố i v ớ i c ác
nh i ệ m v ụ k h ác nh a u) - c ho đ ến k h i c h ún g t a đ ạt đ ến đ i ểm m à mạ n g l ư ớ i ( ít n hấ t là ở mứ c g ần
đú n g) tá i t ạ o l ạ i th à nh c ô n g hà m s ố mà c h ú n g ta mu ố n:
V ậy th ì , p h ần t h i ết y ế u c uố i c ù n g c ầ n g iả i t híc h l à c ác h m à c ác tr ọn g s ố đư ợc đi ề u c h ỉn h để
g iả m th i ể u hà m tổ n t hấ t . N hư c h ún g tô i đ ã nó i , hà m tổ n t hấ t c un g c ấ p c ho c h ú ng t a m ột
“ k ho ả n g c ác h” g iữ a c á c g i á tr ị c h ú ng t a c ó v à c ác g iá tr ị t hự c . N h ư ng “c ác gi á tr ị m à c h ún g
ta c ó” đư ợc x ác đị n h ở từ n g g i a i đ o ạn b ở i p h i ên b ản m ạn g lư ớ i t hầ n k in h hi ệ n t ạ i - v à b ở i c ác
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
trọ n g s ố tr o ng đ ó. N h ư ng b ây g i ờ hãy tư ở n g t ư ợ n g r ằn g c ác trọ n g s ố là c ác b i ến s ố - c hẳ n g
hạ n n hư w i . C h ún g t a mu ố n tì m h i ể u c ác h đ i ều c hỉ n h g i á tr ị c ủ a c á c b i ến này để g iả m t h i ểu
tổ n t hấ t p hụ t h uộc v à o c h ú ng .
Ví dụ , h ãy tư ở n g tư ợ n g ( tr on g mộ t s ự đ ơ n g i ản hó a đá n g k i n h n gạ c c ủ a c ác m ạn g lư ớ i t hầ n
k i nh đ i ể n hì n h đư ợc s ử d ụ ng tr o n g th ự c tế) rằn g c h ú ng ta c h ỉ c ó h a i trọ n g s ố w 1 v à w 2. S au
đó , c h ún g t a c ó t hể g ặ p s ự c ố k h i hà m c ủ a w 1 v à w 2 trô n g n hư th ế này :
P hâ n tíc h v ề m ặ t s ố h ọc c un g c ấp m ột l o ạt c ác k ỹ t h u ật để t ìm k i ế m gi á tr ị n h ỏ nh ấ t tr o n g c ác
trư ờn g hợ p như th ế n ày . T uy n h i ên , m ột p h ư ơ ng p há p t i ếp c ậ n đ i ển hì n h l à c h ỉ đ i d ần t he o
tuy ế n đư ờ ng đ i x u ố ng dốc nh ất t ù b ất k ỳ w 1, w 2 n ào m à c h ú ng t a đ ã c ó:
G i ốn g n hư nư ớc c hảy từ tr ê n nú i x u ốn g , t ất c ả nhữ n g gì đư ợc đ ả m bả o l à quy trì n h nà y s ẽ
k ết t h úc ở m ột mứ c t ố i t h iể u c ục b ộ n ào đ ó trê n b ề mặ t (“ m ộ t c á i hồ trê n nú i”) , n ó c ũ n g c ó
th ể k h ôn g đ ạt đế n mứ c t ố i t h i ểu t o àn t h ể c u ố i c ùn g .
K hô n g c ó gì r õ r à n g r ằ ng v i ệc t ìm r a c o n đư ờ ng d ốc n hấ t tr ê n “c ả n h q u a n tr ọn g s ố ” l à k h ả th i .
Như n g t oá n học đ ến đ ể g i ả i c ứ u . N hư c hú n g t ô i đã đ ề c ậ p ở tr ê n, ngư ờ i ta l u ôn c ó t h ể c o i
mạ n g lư ớ i t hầ n k i nh n hư v iệc tí n h t o án m ột hà m to á n h ọc - ph ụ th uộc v à o đ ầ u v à o v à tr ọn g
s ố c ủ a n ó. Như n g b ây g i ờ h ãy x e m x é t s ự k h ác b i ệt đố i v ớ i c ác tr ọ ng s ố n ày . Hó a ra q uy tắc
c hu ỗ i c ủ a tí n h t o á n c ó h iệ u lự c c ho p h é p c hú n g ta “ là m s á n g tỏ” c ác h o ạt đ ộ ng đư ợc thự c
h iệ n b ởi c ác l ớ p l i ê n t i ếp tr o n g mạ n g l ư ới t h ần k i n h. V à k ế t q u ả là c hú n g t a c ó t hể - ít n hấ t
l à tr on g mộ t s ố p hé p tí nh g ần đ ún g c ục b ộ - “ đả o ngư ợc ” h oạ t độ n g c ủa m ạn g lư ớ i t hầ n k i nh
v à d ần d ầ n tì m r a c ác tr ọ n g s ố g i úp g i ả m th i ểu t ổ n th ấ t l iê n q u an đ ến k ết q u ả đầ u ra .
Hì nh t rê n c h o t hấy lo ạ i t ối th i ểu hó a m à c h ú ng t a c ó t h ể c ầ n th ự c h iệ n tr on g trư ờ n g h ợ p đ ơ n
g iả n p hi t hự c tế c h ỉ v ớ i 2 tr ọ n g s ố. N hư n g hó a r a l à n gay c ả v ớ i trư ờn g h ợ p nh i ề u tr ọ n g s ố
h ơn (C h atG PT đ a n g s ử d ụ ng 1 7 5 tỷ ) , b ạn v ẫn c ó t h ể t hự c h i ện v i ệc g iả m t hi ể u, í t nh ất l à ở
mộ t mứ c đ ộ g ần đ ú n g nà o đ ó. Và tr ê n thự c t ế, bư ớc đ ộ t ph á l ớ n tr on g “h ọc s â u” x ảy r a v ào
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
k ho ả ng n ăm 20 1 1 c ó l i ên qu a n đ ến v i ệc p há t h iệ n r a r ằ ng th e o m ột ng hĩ a nà o đ ó, v i ệc tố i
th i ểu h óa ( ít n hấ t là g ần đ ún g) c ó t h ể d ễ dà ng h ơ n k h i c ó n h i ều tr ọn g s ố l i ê n q u an h ơ n l à k h i
c h ỉ c ó k h á ít tr ọn g s ố .
Nó i c ác h k h ác - h ơ i p h ản tr ự c g iác - c ó t h ể d ễ d à ng g i ải q uy ế t c ác v ấn đ ề p hứ c tạ p h ơn b ằn g
mạ n g lư ớ i t h ần k i nh s o v ớ i c ác v ấn đề đ ơn g i ản hơ n . V à lý do s ơ b ộ c h o đ i ều n ày d ư ờn g như
l à k h i mộ t ngư ờ i c ó nh i ều “ b iế n tr ọ n g s ố ” t hì ngư ờ i đ ó c ó m ột k h ôn g g i a n n h iề u c h iề u v ớ i “rất
nh i ề u hư ớ ng k hác n ha u” c ó t h ể đư a m ột n gư ờ i đ ế n mứ c t ố i t h iể u - tr o ng k h i v ớ i í t b i ến h ơ n
th ì d ễ k ết t h úc h ơn bằ ng v iệc bị mắc k ẹt tr o ng mộ t mứ c t ố i th i ể u c ục b ộ (“ h ồ trê n n ú i”) mà
k hô n g c ó “ hư ớ n g th o át r a” .
Đá n g đ ể c h ỉ r a r ằ ng tr on g c ác tr ư ờ ng h ợ p đ i ển h ìn h , c ó r ất n h iề u t ập h ợ p c ác trọ n g s ố k hác
nh a u, v à t ất c ả s ẽ c un g c ấp c h o c ác mạ n g l ư ớ i th ầ n k in h c ó h i ệu s uấ t gầ n n hư g iố n g n ha u .
V à t hô n g t hư ờ ng , tr o n g đ à o t ạo m ạn g lư ớ i t h ần k i n h t hự c t ế, c ó r ất nh i ề u lự a c họ n ng ẫ u n h iê n
đư ợc đư a r a - dẫ n đ ế n “ c ác g i ả i p há p k h ác - n ha u- n hư n g- tư ơn g- đư ơ ng” , n hư s a u:
Như n g m ỗ i “g i ả i p h áp k hác nh a u” n hư v ậy s ẽ c ó hà n h v i ít nh ấ t l à k h ác n h au m ột c hú t. V à
nế u c hú n g t a y êu c ầ u, v í d ụ, đ ố i v ớ i m ột “p hé p ng o ạ i s uy ” n ằ m n go à i k hu v ự c n ơ i c hú n g t a
đã đư a r a c ác v í d ụ đ ào t ạo , c hú n g t a c ó t h ể nh ậ n đ ư ợc n hữ ng k ết q uả k h ác b iệ t mộ t c ác h
đá n g k ể:
Như n g c á i nà o tr on g s ố này là “ đ ú ng ”? Th ự c s ự k hô n g c ó c ác h nà o đ ể k hẳ n g đ ịn h . T ất c ả
c hú n g đ ề u “ n h ất q uá n v ớ i d ữ l i ệ u đ ã q u a n s á t đư ợc ” . T uy n h iê n , t ất c ả c h ú ng đ ều tư ơn g ứ ng
v ớ i n hữ n g c ác h “ bẩ m s i nh” k h ác n h au đ ể “ n gh ĩ v ề ” n hữ ng v i ệc c ầ n l à m “ nằ m ng o à i k h u ôn
k hổ” . V à m ột s ố tr ô n g c ó v ẻ “ h ợ p lý ” đ ố i v ớ i c on ngư ờ i c h ú ng t a h ơ n n hữ n g n gư ờ i k h ác .
Thực tế và Toàn bộ hiểu biết về Đào tạo Mạng lưới Thần kin h
Đặc b i ệt , tr o ng t hậ p k ỷ q ua , đã c ó r ấ t n h i ều t iế n bộ tr o ng n gh ệ th uậ t đà o tạ o c ác m ạn g lư ớ i
th ầ n k in h . V à, v â n g, v ề c ơ b ả n nó đ ú ng là m ột n g hệ t h uậ t. Đ ô i k h i - đ ặc b iệ t l à k h i h ồi tư ở ng
l ại - n gư ờ i t a c ó t h ể t hấy ít nh ấ t m ột t ia “ l ờ i g i ả i t híc h k ho a h ọc ” c ho đ iề u gì đó đ an g đ ư ợc
thự c h iệ n . Tuy h ầu h ế t m ọ i t hứ đã đư ợc ph á t h i ện b ằn g c ác h thử v à s a i , v i ệc bổ s u ng c á c ý
tư ởn g v à th ủ th u ật đ ã d ần d ầ n x ây dự n g nê n t o àn b ộ h iể u b i ết q u an tr ọ ng v ề c ác h là m v i ệc
v ớ i m ạn g l ư ới t h ần k in h.
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Có mộ t s ố ph ầ n q ua n tr ọ n g. Đ ầ u t iê n , v ấ n đ ề ở đây l à n gư ờ i t a n ê n s ử d ụn g k iế n tr úc m ạn g
th ầ n k i nh n à o c h o m ột n h iệ m v ụ c ụ th ể. S au đ ó, c ó m ột v ấ n đ ề q u an tr ọ n g k hác là l àm t hế
nà o m ột a i đó s ẽ c ó đ ư ợc dữ l i ệu đ ể đà o tạ o mạ n g lư ớ i t h ần k i n h . Và c à ng n g ày , n gư ờ i ta
k hô n g x ử lý v i ệc đ à o t ạo m ạ ng lư ớ i từ đầ u n ữ a: t hay v à o đó , mộ t mạ n g lư ớ i m ới c ó t hể k ết
h ợp tr ự c ti ế p v ớ i m ột mạ n g đ ã - đ ư ợc - đ à o- t ạ o k h ác ho ặc í t nh ấ t c ó th ể s ử dụ n g m ạn g đ ó đ ể
tạ o t hê m c ác v í d ụ đ à o tạ o c h o c h ín h b ản t h ân nó .
Mộ t a i đó c ó t hể n g hĩ r ằn g đ ố i v ớ i mỗ i l o ạ i nh i ệ m v ụ c ụ t h ể, n gư ờ i ta s ẽ c ầ n mộ t k i ến trúc
mạ n g lư ớ i t h ần k i n h k hác n h au . N hư n g n hữ ng g ì đã đư ợc p há t h i ện ra l à c ù ng m ột k i ế n trúc
dư ờn g nh ư c ũ n g t hư ờ ng h oạ t đ ộ ng n gay c ả đố i v ớ i c ác n h iệ m v ụ r õ rà n g l à ho à n t o àn k hác
nh a u. Ở m ột mứ c đ ộ n ào đó , đ i ều này nh ắc n h ở m ọ i n gư ờ i v ề ý tư ở ng t í nh t o á n ph ổ q u át (v à
Ng uy ên t ắc T ín h to á n Tư ơn g đư ơ ng c ủ a t ô i ), n hư n g, n hư t ô i s ẽ t hả o l uậ n s a u, t ôi n g hĩ n ó
ph ả n án h t hự c t ế n h iề u h ơn r ằ n g c ác nh i ệ m v ụ m à c hú n g ta t hư ờ ng c ố g ắ ng y ê u c ầ u m ạn g
lư ớ i t h ần k i n h t hự c h i ện l à nhữ n g nh i ệ m v ụ “g iố n g- c o n- n gư ờ i” - v à m ạ n g l ư ới t hầ n k i nh c ó
th ể n ắm bắ t “ c ác q uy t r ìn h g i ốn g - nh ư - c o n- n g ư ờ i” k h á c h un g c h u ng .
Tro ng nhữ n g n gày đầ u t iê n c ủ a m ạn g lư ới th ầ n k i nh , c ó x u h ư ớ ng c ho r ằn g n gư ờ i ta n ê n
“ k h iế n c h o m ạ ng lư ớ i t hầ n k in h l à m c à n g ít c àn g t ốt” . V í d ụ, k h i c h uy ể n đ ổ i l ờ i nó i t h àn h v ăn
bả n , n gư ờ i ta c h o r ằ n g tr ư ớc t i ê n n gư ờ i ta nê n p h â n tíc h â m t h an h c ủ a l ờ i nó i , c h i a n hỏ n ó
th à nh c ác âm v ị, v .v … đ ể c ố g ắ ng hu ấ n l uy ện mạ n g lư ớ i t h ần k in h v ề “v ấ n đ ề từ - đ ầu- đ ếnc uố i” , đ ể n ó “ k há m p h á” c ác tí n h n ăn g tr un g g i an , m ã h óa , v .v . c ầ n th i ết c ho c h í nh n ó .
Cũ n g c ó ý k i ến c h o r ằ ng n gư ờ i t a n ê n đ ư a c ác t h àn h ph ầ n ri ê n g l ẻ phứ c t ạp v à o m ạ ng l ư ớ i
th ầ n k i n h để n ó c ó h i ệ u lự c “ tr i ể n k h a i mộ t c ác h rõ r à ng c ác ý tư ở ng m a ng tí n h t h uậ t t o á n c ụ
th ể”. N hư n g m ột l ầ n n ữ a, đ i ề u n ày hầ u n hư k hô n g đ án g g i á; t h ay v ào đó , tố t h ơ n h ết l à c h ỉ
x ử lý c ác t h àn h p h ần r ất đ ơn gi ả n v à để c hú ng “ tự t ổ c hứ c ” ( mặc d ù t hư ờn g t h eo c ác h c h ún g
ta k h ôn g t hể h i ểu đ ư ợ c ) đ ể đạ t đư ợc (c ó l ẽ) tư ơn g đư ơ ng v ớ i n hữ n g ý tư ở ng m a ng t ín h th uậ t
to á n đó .
Đi ề u đ ó k hô n g c ó n gh ĩ a l à k hô n g c ó “ý t ư ở n g c ấu tr úc ” n à o p hù h ợ p v ớ i c ác m ạ ng lư ớ i th ầ n
k i nh . D o đ ó, v í d ụ, c ó c ác mả n g n ơ - ro n 2 D v ớ i c ác k ết n ố i c ục b ộ í t n h ất tr ôn g c ó v ẻ r ất hữ u
íc h tr on g g ia i đ o ạn đ ầ u c ủa q u á tr ì nh x ử lý hì n h ả n h. V à v i ệc c ó c ác k iể u k ế t n ố i tậ p tr un g
v ào v i ệc “ n hì n lạ i th e o tr ì nh tự ” c ó v ẻ k há hữ u íc h - n hư c h ú n g t a s ẽ t h ấy s a u n ày - tr o ng v i ệc
x ử lý nhữ n g th ứ nh ư n gô n n gữ c ủ a c o n n gư ờ i, c hẳ n g hạ n n hư tr o ng C ha tG PT .
Như n g mộ t tí n h nă n g qu a n tr ọ n g c ủa mạ n g l ư ớ i th ầ n k i nh là - g iố n g nh ư máy t ín h n ó i c h un g
- c u ối c ù n g c hú n g c hỉ x ử lý dữ l i ệ u. V à c ác m ạn g lư ớ i th ầ n k in h h iệ n tạ i - v ới c ác p hư ơ ng
ph á p đ ào t ạ o m ạn g lư ớ i th ầ n k i n h h iệ n t ại - x ử lý c ác m ản g s ố m ộ t c ác h đ ặc b iệ t . T uy n h i ên ,
tro n g q u á trì n h x ử lý , c ác m ả ng đ ó h oà n to à n c ó th ể đ ư ợc s ắ p x ế p v à đ ị nh hì n h l ạ i. V à v í dụ ,
mạ n g m à c hú n g t ô i s ử dụ n g đ ể x ác đ ịn h c ác c hữ s ố ở t rê n b ắ t đ ầu bằ n g m ột m ản g 2D “ g i ốn g
như h ì nh ả n h” , n h an h c h ón g “ l à m dày ” t h àn h r ất n h iề u k ê n h, n hư ng s a u đ ó “ tậ p tr un g l ạ i”
th à nh mộ t m ả ng 1D c u ố i c ù ng s ẽ c hứ a c ác p hầ n tử đ ại d iệ n c h o c á c c h ữ s ố đ ầ u ra k hả dĩ c ó
c ác g iá tr ị k h ác n h au :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Như n g, t ốt th ô i, là m th ế nà o n gư ờ i t a c ó th ể b iế t mộ t ng ư ời s ẽ c ầ n m ột m ạn g lư ớ i t hầ n k i nh
l ớ n đ ế n n hư th ế n ào c ho m ột n h iệ m v ụ c ụ t h ể? Đ ó t hự c s ự l à mộ t ng h ệ t h uậ t. Ở m ột mứ c độ
nà o đ ó , đ i ều qu a n tr ọ ng l à p hả i bi ế t đư ợc “ nh i ệ m v ụ k h ó đế n m ứ c n à o”. Như n g đ ố i v ớ i c ác
nh i ệ m v ụ g i ốn g - nh ư - c on- n gư ờ i t hư ờn g rấ t k hó ư ớc t ín h. V ân g, c ó th ể c ó m ộ t c ác h thứ c c ó h ệ
th ố ng đ ể t hự c h iệ n n h i ệm v ụ mộ t c ác h r ất “ m áy m óc ” bằ n g m áy tí nh . T h ật k h ó đ ể bi ế t l iệ u c ó
thứ gì m à n gư ờ i t a c ó th ể c o i l à t h ủ t hu ậ t h o ặc l ố i t ắ t c h o p h é p m ộ t a i đó thự c h i ện n hi ệ m v ụ
ít n h ất ở “m ứ c đ ộ g i ốn g - n hư - c o n- n gư ờ i” dễ d àn g h ơ n r ất n h i ều hay k hô n g. C ó t h ể s ẽ c ầ n l i ệt
k ê mộ t c ây tr ò c h ơ i k h ổn g l ồ đ ể c h ơ i mộ t tr ò c h ơ i n hấ t đ ịn h m ột c ác h “ máy m óc ” , nh ư n g c ó
th ể c ó mộ t c ác h ( “ s uy ng h i ệm ” ) d ễ d àn g h ơ n nh i ề u đ ể đ ạt đ ư ợc “ tr ò c h ơ i ở c ấ p - đ ộ- c o n- n gư ờ i”.
K hi mộ t a i đ ó x ử lý c á c m ạ ng lư ớ i th ầ n k i nh nh ỏ v à c ác nh i ệ m v ụ đ ơ n g iả n , đô i k h i ngư ờ i t a
c ó t h ể t h ấy r õ r àn g r ằ ng “ k h ô ng t hể đ i đ ến đ ó từ đ ây ” . Ví d ụ: đ ây l à c ác h t ốt n hấ t c ó v ẻ như
c ó th ể t hự c h i ện n h i ệ m v ụ từ p h ần tr ư ớc v ớ i m ột v à i mạ n g lư ớ i t h ần k in h n h ỏ:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V à nhữ n g gì c h ú ng t a c ó th ể th ấy l à n ếu m ạ n g qu á n hỏ t hì n ó k h ô n g th ể tá i t ạo lạ i h à m s ố mà
c hú n g ta mo n g mu ố n. Như n g v ớ i m ột s ố k íc h thư ớc , n ó k h ôn g c ó v ấn đ ề g ì - í t n hấ t l à nế u
ngư ờ i ta đ ào tạ o nó đủ lâ u , v ớ i đủ v í d ụ . V à, nh â n t i ện , n hữ n g bứ c ản h này m in h họ a c ho mộ t
ph ầ n tr uy ề n t h uy ế t v ề mạ n g l ư ới th ầ n k i n h r ằ ng ng ư ời ta thư ờ n g c ó t h ể t ho át k hỏ i mộ t m ạ ng
nh ỏ h ơ n n ếu c ó mộ t “ s ự é p b uộc ” ở g iữ a bắ t bu ộc m ọ i thứ ph ả i đ i q ua mộ t s ố lư ợ n g n ơ - ron
tru n g g ia n n h ỏ h ơn . ( Cũ n g c ần nh ắc l ạ i r ằ ng “ k hô n g c ó l ớ p tr u ng gi a n ” - hay c ò n g ọ i l à
“ pe rc e ptr o n” - m ạn g lư ớ i c hỉ c ó th ể h ọc c ác h àm v ề c ơ b ản l à tuy ế n tí nh - n hư n g n g ay c ả k h i
c ó mộ t l ớ p tr u n g g i a n, v ề ng uy ên t ắc l uô n c ó th ể để ư ớc lư ợ ng x ấ p x ỉ tố t bấ t k ỳ h à m n à o mộ t
c ác h tùy ý , í t n h ất l à n ếu m ột m ạn g lư ớ i c ó đ ủ s ố lư ợ ng t ế b à o t hầ n k in h , m ặc dù để l à m c ho
nó c ó t h ể h uấ n l uy ệ n đư ợc m ộ t c ác h k h ả t h i , n gư ờ i t a t hư ờn g c ó mộ t s ố l oạ i c hí n h q uy hó a
ho ặc c h u ẩn h ó a) .
Đư ợc r ồi , g iả s ử r ằ n g ngư ờ i t a đ ã ổ n đị n h t r ên m ột k i ế n t rúc m ạ ng th ầ n k in h n hấ t đị n h. B ây
g i ờ c h ú ng t a s ẽ c ó v ấ n đề v ề l ấy dữ l i ệu đ ể đ ào t ạo m ạ ng . V à r ất n hi ề u th ác h t hứ c t hự c tế
x un g qu a nh m ạ ng lư ớ i t h ầ n k i n h - v à h ọc m áy n ó i c hu n g - t ập tr u ng v à o v iệc th u th ậ p h oặc
c hu ẩ n b ị dữ l i ệ u đà o t ạo c ầ n t h iế t. T ro n g rấ t nh i ề u trư ờ ng h ợ p (“ h ọc c ó g iá m s át”) , ngư ờ i t a
mo n g m u ố n l ấy đư ợc c ác v í dụ r õ r àn g v ề đ ầ u v à o v à đ ầu r a mà n g ư ờ i t a mo n g đ ợ i từ c h ún g .
Vì v ậy , v í d ụ, mộ t n g ư ờ i c ó th ể m u ốn c ác hì n h ả nh đư ợc g ắ n th ẻ t he o n hữ ng gì c ó tr on g
c hú n g h oặc mộ t s ố t h uộc t í nh k h ác . V à c ó t hể ngư ờ i t a s ẽ p h ải t r ả i qu a m ộ t c ác h r õ r à ng thư ờ n g l à v ớ i n ỗ lự c r ất l ớ n - v à thự c h i ện v i ệc g ắ n t hẻ . N hư ng r ấ t t hư ờ n g x uy ê n, hó a r a là
c ó th ể dự a tr ên m ộ t t h ứ g ì đó đã đư ợc t hự c h iệ n h oặc s ử d ụn g n ó như mộ t l oạ i pr ox y n à o đó .
V à do đó , v í d ụ, n gư ờ i t a c ó th ể s ử d ụn g t h ẻ a lt đ ã đư ợc c ấp c h o h ìn h ả n h trê n w eb . H oặc ,
tro n g m ột lĩ n h v ự c k h ác , n gư ờ i t a c ó t h ể s ử d ụ ng ph ụ đ ề c h i t i ết đ ã đư ợc tạ o ra c ho v i de o .
Ho ặc - đố i v ớ i đà o t ạ o d ịc h t h uậ t n gô n n gữ - ng ư ời t a c ó t h ể s ử dụ n g c ác p h iê n b ả n s on g
s on g c ủ a c ác tr a ng w e b h oặc c ác t à i l i ệu k há c t ồn t ạ i dư ớ i d ạ ng c á c n g ôn n gữ k h ác n h au .
B ạn c ầ n b ao n h i êu dữ l i ệu đ ể tr ìn h b ày c ho mộ t m ạn g lư ớ i t hầ n k i nh đ ể đ ào t ạ o nó c h o mộ t
nh i ệ m v ụ c ụ th ể ? Mộ t l ần nữ a , r ất k h ó đ ể ư ớ c tí n h từ ng uy ên t ắc đ ầu t i ên . Ch ắc c h ắ n là c ác
y êu c ầu c ó th ể đư ợc g iả m t h iể u m ột c ác h đ án g k ể bằ n g c ác h s ử dụ n g “ h ọc c h uy ể n g i a o” đ ể
“ c huy ể n g i a o” n hữ ng t hứ n hư da n h s ác h c á c t í nh nă n g q u an tr ọn g đ ã đ ư ợc h ọc tr o ng mộ t
mạ n g k h ác . Như n g n h ìn c hu n g, m ạ n g lư ớ i t hầ n k in h c ầ n p h ả i “x e m x é t r ấ t n hi ề u v í d ụ” đ ể
đư ợc đà o t ạo t ốt . V à í t n h ất đ ố i v ớ i m ột s ố nh i ệ m v ụ, đ ó l à mộ t p hầ n q ua n tr ọn g c ủ a tr uy ề n
th uy ết v ề m ạ ng lư ớ i t h ần k i nh m à c ác v í d ụ c ó t hể l ặ p đ i lặ p lạ i m ột c ác h đá n g k in h ng ạc . V à
thự c s ự , đó l à m ột c h i ến lư ợc t i êu c h uẩ n đ ể c h ỉ tr ìn h b ày c h o m ột mạ n g lư ớ i t h ần k i n h t ấ t c ả
c ác v í d ụ mà ng ư ời t a c ó mộ t c ác h lặ p đ i l ặp l ại . Tr on g mỗ i “v ò ng h uấ n luy ệ n” (h o ặc “k ỷ
ng uy ên ”) này , m ạ ng lư ớ i th ầ n k i n h í t n h ất s ẽ ở tr ạn g t há i h ơ i k h ác mộ t c h út v à bằ n g c ác h n à o
đó , v i ệc “n h ắc n h ỏ n ó” v ề mộ t v í d ụ c ụ th ể s ẽ r ấ t hữ u íc h tro n g v i ệ c k h i ế n n ó “ g h i n h ớ v í d ụ
đó” . ( V à, v ân g, c ó lẽ đ i ều n ày tư ơ ng tự n hư tí nh h ữ u íc h c ủa v iệc l ặp lạ i tr on g k h ả n ăn g gh i
nh ớ c ủa c o n n gư ờ i ) .
Như n g t hư ờn g t hì v i ệc c h ỉ lặ p đi l ặp l ại v í d ụ tư ơ n g tự là k hô n g đ ủ. C ũ ng c ần ph ả i tr ìn h b ày
c ho m ạn g lư ới th ầ n k i nh c ác b i ến th ể c ủa v í d ụ . V à đ ây là m ột t ín h n ăn g c ủa truy ề n t hu y ế t
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
mạ n g lư ớ i th ầ n k i nh r ằ ng c ác b i ế n t h ể “ tă n g c ư ờ ng d ữ l iệ u” đ ó k h ô ng c ầ n p hả i q u á mứ c p hứ c
tạ p đ ể tr ở n ên hữ u íc h. Ch ú ng ta c h ỉ c ầ n s ử a đ ổ i m ộ t c h út hì n h ản h bằ n g x ử lý hì n h ả nh c ơ
bả n c ó t h ể đ ã l àm c h o c hú n g v ề c ơ b ả n “t ốt như m ớ i” đ ể h u ấn l uy ệ n m ạ n g l ư ớ i t hầ n k in h . V à
tư ơn g tự , k h i hế t v id e o t hự c t ế, v .v … để đ à o t ạo ô t ô tự l ái , n gư ờ i t a c ó th ể t i ếp tục v à c h ỉ
l ấy dữ l iệ u từ v i ệc c h ạy m ô p h ỏn g tr o ng m ô i trư ờ n g g i ốn g n hư t rò c h ơ i đ iệ n tử mô h ì n h mà
k hô n g c ầ n ph ả i c ó t ất c ả c h i t iế t c ủ a c ác c ả n h tro n g th ế - g i ớ i- t hự c .
V ậy t hứ g ì đ ó g iố n g n hư C h atG PT s ẽ như t hế n ào ? C h à, n ó c ó m ột tí nh n ăn g k há h ay l à n ó
c ó t h ể t hự c h i ệ n v iệc “ học t ập k h ôn g c ần g iá m s á t”, g i úp n ó lấy c ác v í d ụ đ ể đư ợc đà o t ạ o dễ
dà n g h ơ n nh i ề u. H ãy nh ớ lạ i r ằ n g nh i ệ m v ụ c ơ b ản c ủa C h atG PT l à tì m r a c ác h t iế p t ục mộ t
ph ầ n đ o ạn v ăn b ản m à n ó đ ã đư ợc c u n g c ấ p . Vì v ậy , đ ể c ó đư ợc “ c ác v í dụ đà o t ạ o”, tấ t c ả
nhữ n g gì n gư ờ i ta p h ả i là m l à l ấy m ột đ oạ n v ă n bả n v à c h e đ i p h ần c u ố i c ủ a nó , s au đ ó s ử
dụ n g p hầ n n ày l à m “ đ ầu v ào đ ể đ à o tạ o từ đó” - v ới “ đầ u ra” l à p hầ n h o àn c hỉ n h, c h í nh l à
ph ầ n v ăn b ả n c h ư a đư ợc c h e g i ấ u. C hú n g t a s ẽ th ả o lu ậ n v ề v ấ n đ ề này n h iề u h ơ n v à o s au
này , như n g đ i ể m t he n c hố t là - k h ôn g g iố n g như , c hẳ n g h ạ n, đ ối v ớ i v iệc tì m h iể u nhữ n g g ì
c ó t ro n g hì nh ả n h - k h ôn g c ầ n v i ệc “ gắ n th ẻ rõ r à ng , t rê n th ự c t ế, Ch at G P T c ó t h ể học tr ự c
ti ế p từ b ất k ỳ v í dụ nà o v ề v ă n b ản mà n ó đ ư ợc c u n g c ấ p .
O K , v ậy c òn qu á t r ì nh học tậ p t hự c t ế tr o ng mạ n g lư ớ i th ầ n k i n h t hì s ao ? C u ố i c ù ng , t ất c ả
c h ỉ l à x ác đị n h tr ọn g s ố n ào s ẽ n ắ m b ắt tố t n hấ t c ác v í d ụ đ ào tạ o đã đư ợc đư a r a. Và c ó t ất
c ả c ác l oạ i lự a c h ọ n c h i t iế t v à “ c ác th i ết l ậ p c à i đặ t s iê u t h am s ố ” ( nó đư ợc gọ i nh ư v ậ y v ì
trọ n g s ố c ó th ể đư ợc c o i l à “ th a m s ố” ) c ó t h ể đư ợc s ử dụ n g để đ i ều c h ỉn h c ác h t hự c hi ệ n đ i ều
này . C ó nh i ề u lự a c h ọ n k h ác nh a u v ề h à m t ổn t h ất (t ổ ng b ì nh p hư ơ ng , tổ n g c ác g i á tr ị t uy ệ t
đố i , v .v .. .). Có n h iề u c ác h k h ác n h a u đ ể gi ảm t hi ể u t ổ n t h ất (k h o ản g c ác h tr on g k hô n g g ia n
trọ n g s ố đ ể d i c h uy ển ở m ỗ i bư ớ c , v .v . ..) . V à s a u đ ó l à n hữ n g c â u h ỏ i n hư tr ìn h b ày m ột “ lô”
c ác v í d ụ l ớn đ ến mứ c n à o đ ể c ó đư ợc từ n g ư ớc t í nh l iê n t i ế p v ề t ổ n t hấ t m à mộ t n gư ờ i đ an g
c ố gắ n g g iả m t h iể u. V à, v â n g, n gư ờ i ta c ó t hể á p d ụ ng m áy h ọc ( v í dụ n hư c h ú ng t ô i d an g
thự c h iệ n tro n g N g ôn ngữ W o lf r a m) để tự độ ng h óa m áy h ọc - v à đ ể t h iế t lậ p nh ữ n g t hứ như
s i êu t h am s ố mộ t c ác h tự đ ộ ng .
Như n g c u ố i c ùn g , t oà n b ộ qu á tr ì n h đ à o t ạ o c ó t hể đư ợc m ô t ả bằ n g c ác h x e m m ứ c đ ộ t ổ n
th ất g iả m dầ n như th ế nà o ( như tr on g tr ìn h g i ám s át t iế n tr ì nh Ng ô n ngữ W o lfr a m n ày c ho mộ t
ph ầ n đ ào t ạ o nh ỏ) :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V à n hữ ng gì n gư ờ i t a t hư ờ n g t hấy l à t ổn th ất s ẽ s ụ t g i ả m tr on g mộ t t h ờ i g i a n, như n g c uố i
c ùn g s ẽ c h ỉ gi ả m d ầ n ở mộ t s ố g iá tr ị k h ô ng đổ i . N ếu n hư g i á tr ị đ ó đ ủ n h ỏ t hì v i ệc đ à o tạ o
c ó t h ể đư ợc c o i l à t h à nh c ô ng ; nế u k h ôn g, đ ó c ó t hể l à dấ u h iệ u c ho t hấy c h ún g ta n ên thử
th ay đ ổ i k i ến tr úc m ạ n g.
L iệ u c h ú n g t a c ó th ể b i ết ph ả i m ấ t b a o l â u đ ể “đư ờ n g c o n g h ọc t ậ p” p h ẳn g r a k h ô ng ? G i ốn g
như đố i v ới r ất n h i ều thứ k h ác , dư ờ ng n hư c ó c ác m ố i qu a n h ệ m ở rộ n g th e o quy lu ậ t l ũy thừ a gầ n đú n g p h ụ t h uộc v à o k íc h t hư ớc c ủ a m ạ ng lư ớ i th ầ n k i n h v à l ư ợ n g d ữ l i ệ u m à mộ t
mạ n g s ử dụ n g. N hư ng k ết lu ậ n c hu n g l à r ằ ng v i ệc đà o t ạo mộ t m ạn g lư ớ i t h ần k in h s ẽ r ất k hó
- v à c ần r ất nh i ề u n ỗ l ự c t ín h t o án . V à tr ê n t hự c t ế, p h ần l ớ n n ỗ l ự c đ ó đ ư ợc d àn h đ ể t hự c
h iệ n c ác p hé p t o á n tr ên c ác mả n g s ố , v ố n l à t hứ mà G P U rấ t g i ỏ i - đó l à lý d o t ạ i s a o v i ệc
đà o t ạo mạ n g lư ớ i t hầ n k i nh t hư ờ n g b ị g i ới hạ n b ở i t ín h s ẵ n s à ng c ủa G PU .
Tr o ng tư ơ ng l ai , li ệ u s ẽ c ó nh ữ n g c ác h c ơ bả n t ố t h ơ n n à o đ ể đ à o t ạo m ạn g lư ớ i t hầ n k i nh
hay nó i c h u ng là t hự c h iệ n n hữ ng g ì m ạ ng lư ớ i th ầ n k i n h l àm hay k hô n g ? G ần như c hắc c hắ n
s ẽ c ó , tô i n g hĩ v ậy . Ý t ư ở ng c ơ bả n c ủa m ạ n g lư ớ i t h ần k i n h l à t ạ o ra m ột “k ế t c ấ u m áy t í nh”
l in h h oạ t t ừ m ộ t s ố lư ợ ng l ớ n c ác th à nh p h ầ n đ ơn g i ản (v ề c ơ b ả n l à g i ố ng h ệt n h au) - v à đ ể
“ k ết c ấ u” n ày tr ở t h àn h m ộ t t hứ c ó t h ể đư ợc s ử a đổ i dầ n dầ n đ ể h ọc h ỏ i t ừ c ác v í d ụ . Tr on g
c ác m ạn g lư ớ i t hầ n k i nh h i ệ n tạ i , v ề c ơ b ản , n gư ờ i ta s ử dụ n g c ác ý tư ở n g v ề p hé p tí n h - á p
dụ n g c h o c ác c o n s ố th ự c t ế - để th ự c h i ện s ử a đ ổ i g i a t ă ng d ần đó . Như n g n g ày c à n g rõ r à ng
r ằn g v iệc c ó n hữ n g c o n s ố c ó độ c hí nh x ác c ao k hô n g th à n h v ấ n đề ; 8 b it t r ở x u ốn g c ó t h ể l à
đủ ng ay c ả v ới c ác ph ư ơ ng ph á p h iệ n t ạ i.
V ớ i c ác h ệ t h ốn g t ín h to á n n hư m áy tự đ ộ ng d i độ n g v ề c ơ b ản ho ạt độ n g s o ng s on g tr ê n r ấ t
nh i ề u b i t r iê n g lẻ , s ẽ k hô n g b a o gi ờ c ó th ể rõ r àn g v ề c ác h thự c h iệ n lo ạ i s ử a đổ i g ia t ăn g
dầ n n ày , n hư ng k h ô n g c ó lý d o gì đ ể ng h ĩ rằn g đ i ều đ ó l à k h ôn g k h ả t h i . Và tr ê n t hự c tế ,
g iố n g n hư “ bư ớc độ t p há v ề h ọc - s â u c ủ a n ă m 2 01 2” , c ó t hể v i ệc s ử a đ ổ i g ia tă n g n hư v ậ y s ẽ
thự c s ự d ễ d àn g h ơ n t r on g c ác tr ư ờ n g h ợ p p hứ c tạ p t h ay v ì c ác tr ư ờ ng h ợp đ ơ n g i ả n.
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Mạ n g lư ớ i th ầ n k i nh - c ó l ẽ h ơi g i ố ng b ộ n ão - đư ợc t h iế t l ập đ ể c ó mộ t m ạn g lư ớ i t ế bà o t hầ n
k i nh v ề c ơ b ả n l à c ố đ ị nh , v ớ i th ứ đ ư ợc s ử a đổ i l à c ư ờ n g độ ( “ tr ọ n g s ố” ) c ủa c ác k ế t nố i g iữ a
c hú n g. ( C ó l ẽ ít n hấ t t r on g b ộ n ã o c ò n trẻ , mộ t s ố lư ợn g đá n g k ể c ác k ế t nố i h oà n to à n m ớ i
c ũn g c ó t h ể ph á t tr i ể n. ) Tuy nh i ê n, m ặc d ù đ ây c ó th ể là m ộ t th i ết l ập k há t h uậ n t iệ n v ề s i nh
học , n hư n g k h ô ng r õ r àn g r ằ n g nó t h ậ m c hí c òn gầ n v ớ i c ác h t ốt n hấ t đ ể đ ạt đư ợc c h ứ c nă n g
mà c h ún g t a c ần . V à mộ t t hứ gì đó l iê n qu a n đ ế n v i ệc v iế t l ạ i mạ n g l ũy t i ế n tư ơ ng đư ơ n g (c ó
l ẽ g ợ i nh ớ đế n Dự á n V ật lý c ủa c h ú n g t ô i) c uố i c ù n g c ó t hể s ẽ t ố t h ơn .
Như n g t h ậm c h í ng ay c ả tr o ng k h u ôn k h ổ c ủ a c ác m ạ n g lư ới t h ần k i nh h i ện t ại , v ẫ n c ó mộ t
hạ n c h ế qu a n tr ọ n g: v i ệc đà o t ạo m ạ ng lư ớ i t hầ n k i n h như h i ệ n nay đư ợc thự c h i ệ n v ề c ơ bả n
l à tu ầ n tự , v ớ i t ác đ ộ ng c ủa từ n g l ô v í dụ đ ư ợc tr uy ền tr ở l ạ i đ ể c ập nh ậ t c ác tr ọn g s ố . V à
thự c tế l à v ới p hầ n c ứ ng m áy tí n h h i ệ n t ại - th ậ m c h í c ó tí nh đ ến G P U - h ầu h ết mạ n g l ư ớ i
th ầ n k in h ở tr ạ ng t h á i “ nh à n r ỗ i” tr on g p hầ n l ớ n th ờ i g i an c ủ a q u á t rìn h đ ào t ạ o, m ỗ i l ần c h ỉ
c ó m ột p h ần đ ư ợc c ập n h ật . V à th e o m ột n g hĩ a n ào đó , đ iề u n ày l à d o c ác m áy tí nh hi ệ n tạ i
c ủa c h ú ng t a c ó x u hư ớ ng c ó b ộ n h ớ tác h b i ệt v ới C P U ( h oặc G PU ) c ủ a c h ún g. N hư ng tr on g
nã o b ộ t hì c ó l ẽ l à k h á c - v ớ i mọ i “ ph ầ n tử b ộ n h ớ” (tứ c l à tế bà o t h ần k i nh) c ũn g l à mộ t p hầ n
tử tí n h t oá n c ó k h ả n ăn g h o ạt độ n g. V à n ế u c h ún g t a c ó th ể t h i ế t l ập p hầ n c ứ n g máy t ín h
tư ơn g l ai c ủ a mì n h t h eo c ác h này t hì c ó t h ể t hự c h iệ n qu á trì n h đà o tạ o c ó hi ệ u qu ả h ơn
nh i ề u .
“Chắc chắn một Mạng Đủ Lớn Có thể Làm Bất cứ điều gì!”
Nă n g lự c c ủa mộ t t hứ g ì đ ó n hư C h atG P T c ó v ẻ ấ n tư ợ n g đ ế n m ứ c ngư ờ i t a c ó th ể tư ở ng
tư ợn g r ằ ng n ế u mộ t ng ư ờ i c ó th ể “ t iế p tục ” v à đ ào t ạo c ác m ạ ng t hầ n k in h n gày c à n g l ớn h ơ n ,
th ì c uố i c ù ng h ọ s ẽ c ó th ể “ l àm m ọ i thứ ”. V à nế u n gư ờ i t a q ua n tâ m đ ến n hữ ng t hứ mà tư duy
c on n gư ờ i c ó th ể t i ế p c ận n gay l ập tứ c , t hì r ất c ó t h ể đ i ều n ày đ ú n g . T uy nh i ê n, bà i học c ủa
k ho a học tro n g h à ng t r ă m n ăm q ua l à c ó nh ữ ng th ứ c ó t h ể đư ợc t ìm r a b ằ ng c ác q uy tr ì nh
c hí n h thứ c , n hư n g k h ô ng dễ d à ng c ó th ể đư ợ c t i ếp c ậ n v ới tư duy c on ngư ờ i n g ay l ập t ứ c .
To án h ọc p hi - t hư ờ ng ( no n- tr iv ia l) l à m ột v í dụ l ớn . Như n g t rư ờn g h ợ p k há i q u át t hự c s ự l à
tí nh t oá n . Và c u ố i c ù n g, v ấ n đề là h i ện tư ợ n g t í nh t oá n t ối g i ả n . Có m ột s ố tí n h t o á n mà n gư ờ i
ta c ó th ể n g hĩ r ằ n g s ẽ m ất n h i ều bư ớc đ ể thự c hi ệ n, như n g th ự c t ế c ó t hể đư ợc “rú t gọ n”
th à nh mộ t t hứ gì đó k há gầ n g ũ i. N hư n g v i ệ c p h át h i ệ n r a t ín h t ố i g i ản c ủa máy tí nh ng ụ ý
r ằn g đ iề u này k h ôn g p hả i l úc n à o c ũ n g h o ạt độ n g . V à t h ay v à o đó , c ó c ác q uy tr ìn h - c ó th ể
g iố n g n hư q uy t r ì nh b ên dư ớ i đ ây - n ơ i đ ể t ìm r a đ i ề u g ì c h ắc c h ắ n x ảy r a đ ò i h ỏ i v ề c ơ bả n
ph ả i t he o d õ i từ n g bư ớc tí n h to á n:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Nhữ n g th ứ m à c h ún g ta t hư ờ ng l àm v ớ i b ộ nã o c ủ a m ìn h c ó l ẽ đã đư ợc lự a c h ọn mộ t c ác h
đặc b i ệt đ ể tr án h tí n h t ố i g i ản v ề m ặt tí n h t oá n . Cầ n c ó nỗ lự c đ ặc b i ệt để l à m t o án tr on g n ão
c ủa c hú n g t a. V à tr ê n t hự c t ế, hầ u như k hô ng th ể “ s uy ng h ĩ t hấ u đá o” c ác bư ớc tr o ng h oạ t
độ n g c ủ a bấ t k ỳ c hư ơ ng tr ì nh k h ô n g t ầ m t h ư ờ ng nà o c h ỉ tr on g n ã o b ộ c ủa mộ t n gư ờ i.
Như n g t ất nh i ê n đ ể là m đư ợc đ iề u đó c h ún g t a c ó c ác máy tí n h. V à v ới m áy t ín h, c h ún g ta c ó
th ể d ễ dà n g l à m nh ữ n g v i ệc dà i v à k hô n g th ể tí nh t o án t ố i g i ản đ ư ợc . V à đ iể m m ấ u c h ốt l à
nó i c h u ng k hô n g c ó l ố i t ắt n à o c h o nh ữ n g đ i ề u n ày .
V ân g, c h ún g t a c ó th ể gh i nh ớ r ất n hi ề u v í d ụ c ụ th ể v ề n hữ ng gì x ả y r a tr on g m ộ t s ố hệ th ốn g
tí nh t oá n c ụ th ể. V à c ó lẽ c h ú ng t a t h ậm c h í c ó th ể th ấy m ột s ố k h uô n m ẫu (“c ó t hể rú t g ọn
v ề m ặt tí n h to á n” ) c h o ph é p c h ún g t a t hự c h i ện mộ t c h út k h á i q uá t hó a . Như n g v ấ n đề là tí nh
tố i gi ả n v ề m ặt t í nh to án c ó n g hĩ a là c h ún g t a k h ô ng b ao g i ờ c ó t h ể đ ả m b ả o rằ n g đ i ều k hô n g
mo n g m uố n n à o đó s ẽ k hô n g x ảy r a - v à c h ỉ bằ n g c ác h t hự c h i ệ n p hé p tí n h m ột c ác h r õ r àn g ,
bạ n m ớ i c ó t h ể b iế t đ i ều gì t hự c s ự x ảy r a tr on g b ất k ỳ trư ờ ng h ợp c ụ t h ể nà o .
V à c u ối c ùn g , c h ỉ c ó mộ t á p lự c c ơ b ả n g i ữ a k h ả n ăn g h ọc h ỏ i v à tí n h tố i g i ả n v ề m ặ t tí nh
to á n. V i ệc h ọc tậ p l i ên q ua n đế n v i ệc n é n dữ l i ệu h i ệu q uả b ằ ng c á c h t ậ n dụ n g c ác q uy l u ật .
Như n g tí nh t ố i g i ản c ủ a tí nh t o án n g ụ ý rằ n g c uố i c ù n g th ì v ẫ n c ó m ột g i ớ i h ạn đ ố i v ớ i n hữ ng
quy lu ậ t c ó th ể c ó .
Như m ột v ấ n đề th ự c t ế, n gư ờ i t a c ó t h ể tư ở ng tư ợ ng v ề v i ệc x ây dự n g c ác th i ết b ị t í nh t oá n
nh ỏ - n hư m áy tự đ ộn g d i độ n g ho ặc m áy T ur in g - t h àn h c ác h ệ t hố n g c ó th ể đ ào t ạo đ ư ợc
như m ạ ng lư ớ i t h ần k i nh . Và th ự c s ự n hữ ng th i ết b ị n hư v ậy c ó th ể đó n g v a i t rò l à “c ô n g c ụ”
tố t c h o m ạn g t h ần k i n h - như W o lfr a m |A lp h a c ó t h ể là m ột c ô ng c ụ tố t c h o Ch a tG PT. N h ư ng
tí nh t ố i g i ản v ề mặ t tí n h to á n n gụ ý r ằ ng ngư ờ i t a k hô n g th ể m o ng đ ợ i “ đ i v à o đư ợc b ê n tro ng”
c ác th i ết bị đó v à y êu c ầu c hú n g ph ả i h ọc t ậ p.
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Hay n ói c ác h k h ác , c ó mộ t s ự đá n h đ ổ i c uố i c ùn g g iữ a n ăn g lự c v à k h ả nă n g đ à o t ạ o: b ạn
c àn g mu ố n mộ t h ệ th ố ng t hự c h i ệ n “ v iệc s ử dụ n g t hự c s ự ” n hữ n g nă n g lự c t ín h to á n c ủ a nó
th ì hệ t h ốn g đ ó c à ng t hể h i ệ n tí nh t ố i g iả n v ề m ặt tí n h to á n v à c à n g ít c ó t hể đ à o tạ o đư ợc .
V à n ó c à ng dễ hu ấ n l uy ệ n v ề c ơ b ả n th ì c à ng í t c ó k hả nă n g thự c h i ệ n c ác p hé p t ín h phứ c
tạ p.
( Đố i v ớ i C ha tG PT nh ư h i ệ n t ại , t ìn h hì nh th ự c s ự c òn ng h i êm trọ ng h ơ n n h iề u, b ở i v ì mạ n g
lư ớ i t hầ n k in h đư ợc s ử d ụ n g đ ể tạ o r a từ ng m ã t h ôn g b á o đ ầu r a l à m ột mạ n g “ c h ỉ- c huy ển ti ế p - mộ t- c h i ề u” ( fe e d- f or w ar d) th u ần t úy , k h ô ng c ó v ò n g l ặp v à d o đ ó k hô n g c ó k h ả nă n g t hự c
h iệ n b ất k ỳ l oạ i t ín h t o án v ớ i “ l uồ n g đ i ều k h i ển” ph i t hư ờ ng n à o) .
Tất n hi ê n, ng ư ời ta c ó t h ể t hắc m ắc r ằ n g l i ệ u v i ệc c ó t hể t hự c h iệ n c ác ph é p t ín h t ố i g i ả n c ó
thự c s ự qu a n tr ọ ng ha y k hô n g. Và th ự c s ự đ ố i v ớ i ph ầ n l ớ n l ịc h s ử lo à i n gư ờ i , đ i ều đó k h ôn g
qu á đ ặc b iệ t q ua n tr ọn g. N hư ng t hế gi ớ i c ô n g ng h ệ h iệ n đ ạ i c ủa c hú n g ta đ ã đư ợc x ây d ự ng
dự a tr ê n k ỹ t h uậ t s ử d ụn g ít n hấ t c ác ph é p t ín h t o á n h ọc - v à n gày c à ng c ó n hi ề u ph é p t í nh
tổ n g q u át h ơ n. V à nế u c h ún g ta n hì n v ào t hế g i ớ i tự n h iê n , t hì n ó c hứ a đ ầy n hữ n g tí n h t o án
k hô n g t hể g i ản lư ợc đ ư ợc – m à c hú n g t a đ a ng d ần h iể u c ác h m ô ph ỏ ng v à s ử dụ n g c h o c ác
mục đíc h v ề c ô n g ng h ệ c ủ a mì n h.
Đú n g th ế, mộ t m ạ ng l ư ớ i t hầ n k i n h c h ắc c h ắn c ó th ể n h ận t h ấy c ác l oạ i quy lu ật t ro n g th ế
g i ới tự n h iê n m à c h ún g t a c ũ ng c ó t h ể dễ d à ng n h ận t h ấy v ớ i “ tư d uy k hô n g c ần tr ợ g i úp c ủa
c on ng ư ời” . N hư ng nế u c h ún g t a m u ốn tì m r a n hữ ng t hứ t h uộc p h ạm v i c ủ a t o án học h oặc
k ho a h ọc t í nh t o á n th ì mạ n g lư ớ i t h ần k i nh s ẽ k h ôn g t h ể l à m đư ợ c đ i ề u đ ó - trừ k h i nó “s ử
dụ n g n hư m ột c ô n g c ụ ” h ệ t hố n g tí nh t o á n “ t hô n g th ư ờn g” m ột c ác h c ó h i ệu q u ả .
Như n g c ó đi ề u gì đ ó c ó k hả n ă ng g ây r a nh ầ m l ẫn v ề tấ t c ả nh ữ n g đ iề u n ày . Trư ớc đây , c ó
r ất n hi ề u n h i ệm v ụ - b ao g ồm c ả v i ết bà i t iể u lu ậ n - m à c hú n g t a c ho r ằ ng “v ề c ơ b ản l à qu á
k hó” đố i v ớ i m áy tí nh . V à b ây g i ờ c h ú ng t a th ấy c h ún g đ ư ợc thự c h i ện b ở i nh ữ n g t hứ n hư
Ch at G P T, c h ún g ta c ó x u hư ớn g đ ột n h iê n n gh ĩ r ằn g m áy t í nh p hả i tr ở nê n m ạn h m ẽ h ơ n rất
nh i ề u - đ ặc b i ệt l à v ư ợt qu a n hữ ng t hứ m à v ề c ơ b ả n c hú n g đ ã c ó th ể l à m đư ợc (c h ẳ n g hạ n
như t í nh t o án dầ n d ần h à nh v i c ủa c ác hệ t h ốn g t ín h t oá n n hư m áy tự đ ộ ng d i độ n g) .
Như n g đ ây k h ô ng ph ả i là k ết lu ậ n đ ú ng để c ó t hể đư ợc rú t ra . C ác q uy tr ì nh tố i gi ả n v ề mặ t
tí nh to á n v ẫ n k h ôn g t hể r út gọ n v ề m ặt t ín h t oá n v à v ề c ơ bả n v ẫn k hó đố i v ớ i m áy t í nh –
th ậ m c h í n g ay c ả k h i máy tí n h c ó th ể d ễ dà n g t ín h t o án c ác b ư ớc r i ên g lẻ c ủ a c h ú ng . Và t hay
v ì th ế , đ iề u c h ú ng t a n ên k ết lu ậ n l à n hữ ng n h iệ m v ụ - c h ẳ ng hạ n n hư v i ết ti ể u l u ận - m à c on
ngư ờ i c h ú ng t a c ó t hể l à m, n hư ng c h ú n g t a k hô n g ng h ĩ r ằn g m áy t ín h c ó th ể l à m đư ợc , t hự c
s ự ở m ột k h ía c ạn h n à o đ ó dễ t í nh t o án h ơ n c hú n g ta ng hĩ .
Nó i c ác h k h ác , lý d o mạ n g lư ớ i t hầ n k i nh c ó t h ể t hà n h c ô n g tr o ng v i ệc v i ế t m ộ t b à i t i ểu l uậ n
l à b ở i v ì v i ết m ộ t bà i l uậ n h óa r a lạ i l à m ột v ấn đ ề “ n ôn g c ạ n h ơn v ề m ặt tí n h to á n” s o v ớ i
nhữ n g gì c hú n g t a đ ã từ n g n gh ĩ. Và t h eo m ộ t hà m n gh ĩ a nà o đ ó, đ i ều n ày đư a c h ún g t a đ ến
gầ n h ơ n v ớ i v i ệc “ c ó mộ t lý t huy ết ” v ề c ác h c o n ngư ờ i c h ú ng t a q uả n lý đ ể l à m nhữ n g v i ệc
như v i ết t i ểu lu ậ n ho ặ c n ó i c h un g l à x ử lý n gô n n gữ .
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Nế u b ạn c ó mộ t m ạn g l ư ớ i t hầ n k i n h đủ l ớn t h ì , v â ng , b ạn c ó t h ể l àm b ất c ứ đ iề u g ì c on ng ư ờ i
c ó t hể thự c h iệ n mộ t c ác h dễ d àn g. Nh ư n g b ạn s ẽ k h ô ng nắ m bắ t đư ợc n hữ ng gì th ế g i ớ i tự
nh i ê n nó i c h u n g c ó th ể l àm đư ợc — h oặ c nh ữ ng c ôn g c ụ m à c h ú n g ta đã t ạ o r a từ t hế g i ớ i tự
nh i ê n c ó t h ể là m đư ợc . Và c h ín h v i ệc s ử d ụ n g nhữ n g c ôn g c ụ đ ó — c ả t hự c t ế v à k h á i n iệ m —
đã c ho ph é p c h ún g t a tr o n g n hữ n g t h ế k ỷ gầ n đ ây v ư ợ t q u a r a nh gi ớ i c ủ a n hữ ng t hứ mà “ s u y
ng h ĩ th u ần túy c ủa c o n n gư ờ i k h ô ng c ần tr ợ g i ú p” c ó t h ể t iế p c ận đư ợc , v à n ắ m b ắt c ho mục
đíc h c ủ a c o n ng ư ời nh i ều h ơ n n hữ ng gì c ó s ẵn tr o ng t h ế g i ớ i v ật l ý v à m áy t ín h. v ũ trụ .
Khái niệm về Nhúng
Mạ n g lư ớ i t hầ n k i nh - ít nh ấ t l à nh ư c h ú ng h iệ n đa n g đư ợc t hi ế t l ập - v ề c ơ b ản đư ợc dự a
trê n c ác c on s ố. Vì v ậ y , n ếu c hú n g t a dự đ ị n h s ử d ụn g c h ú ng để l à m v i ệc tr ê n m ột t hứ gì đ ó
như v ă n bả n, c h ún g t a s ẽ c ầ n m ộ t c ác h để b iể u t h ị v ăn b ản c ủ a mì n h b ằ ng c ác c on s ố . V à
c hắc c h ắ n c h ún g t a c ó th ể b ắt đ ầ u (v ề c ơ bả n g i ốn g n hư C ha tG PT) c h ỉ b ằ ng c ác h c h ỉ đ ị nh
mộ t c on s ố c ho m ỗi từ t r o n g từ đ iể n. N hư n g c ó m ộ t ý tư ở ng q ua n t rọn g – đ ó l à đ ố i v ớ i v í dụ
tru n g tâ m c ủ a C ha tG P T - c ò n v ư ợ t x a đ i ều đ ó. Và đ ó là ý tư ở ng v ề “ s ự n hú n g ” . N gư ờ i t a c ó
th ể n gh ĩ v ề p h ép nh ú n g n hư m ột c ác h đ ể c ố gắ n g b i ểu t h ị “ b ản c hấ t” c ủ a m ột t hứ g ì đó b ằn g
mộ t m ả ng s ố - v ớ i t h u ộc tí n h “ nh ữ n g t hứ ở g ần” đư ợc b iể u t h ị bằ n g c ác c o n s ố ở gầ n.
V à v ì v ậy , c hẳ n g h ạ n, c hú n g t a c ó t hể ng h ĩ v ề v i ệc nh ú ng từ gi ố ng nh ư v i ệc c ố g ắ ng s ắp x ếp
c ác t ừ tr o ng m ộ t lo ạ i “ k hô n g g ia n c ó ý n gh ĩ a” , tr o ng đ ó , c ác từ b ằ n g c ác h n à o đó “g ầ n ng hĩ a”
x uấ t hi ệ n gầ n đó tr on g qu á tr ì n h n h ún g . C ác ph ầ n n h ú ng th ự c t ế đ ư ợc s ử d ụn g - c h ẳn g hạ n
như tr on g Ch a tG PT - c ó x u hư ớ n g l i ê n q u an đế n da n h s ác h l ớ n b a o g ồ m c ác s ố . N hư ng nế u
c hú n g ta c hi ế u x u ốn g 2D , c h ún g t a c ó th ể h i ển t h ị c ác v í d ụ v ề c á c h c ác từ đư ợc tr ìn h bày
bằ n g c ác h nh ú n g:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V à, v â ng , nhữ n g gì c h ún g ta t hấy đ ủ tố t mộ t c ác h đ á ng k ể tr on g v i ệc gh i l ạ i n hữ n g ấ n tư ợ ng
đ iể n hì n h h àn g n gày . Như n g l àm t h ế nà o c h ún g t a c ó th ể x ây dự n g m ột p hé p n h ún g n hư v ậy ?
V ề c ơ bả n , ý tư ở n g l à x e m x ét m ột lư ợ n g l ớ n v ăn b ản ( ở đây l à 5 tỷ từ tr ên w eb ) v à s a u đ ó
x em x ét c ác “ mô i tr ư ờ ng” t ư ơn g tự n hư t hế nà o tr on g đ ó c ác từ k h ác n ha u x u ất h i ệ n. V ì v ậy ,
v í d ụ: “ a l li g at or ” v à “ c r oc o d i le ” s ẽ t hư ờ n g x u ất h iệ n g ầ n n hư ho á n đổ i c ho n ha u tr o n g c ác c âu
tư ơn g tự k h ác v à đ i ề u đ ó c ó n g hĩ a l à c h ú ng s ẽ đư ợc đ ặt gầ n n h au tro n g p hầ n n hú n g. N h ư ng
“ a ll i g at or” v à “ e ag l e” s ẽ k hô n g c ó x u hư ớn g x uấ t h iệ n tr on g c ác c â u t ư ơn g tự , v ì v ậy c h ú ng
s ẽ đư ợc đ ặt c ác h x a n ha u tr on g p h ần nh ú ng .
Như n g l à m c ác h nà o đ ể t hự c s ự tr i ển k h a i m ột thứ n hư t hế n ày b ằn g c ác h s ử d ụ ng m ạn g l ư ớ i
th ầ n k i nh ? H ãy b ắt đ ầ u b ằn g c ác h n ó i v ề p hé p n h ún g k h ô ng p h ả i c h o từ n gữ m à c h o h ìn h
ản h . C hú n g t ô i m u ố n t ìm m ột s ố c ác h để m ô tả c ác h ì nh ả nh b ằn g da n h s ác h c ác c o n s ố s ao
c ho “c ác hì n h ản h m à c h ún g t ô i c ho là tư ơ n g tự ” đư ợc g án c ho c ác da n h s ác h s ố tư ơn g tự
nh a u.
Là m t hế n à o đ ể c hú n g ta b i ết li ệ u c hú n g t a c ó nê n “x e m x é t c á c h ìn h ả nh tư ơ n g tự ” h ay
k hô n g? C h à, n ếu h ì nh ản h c ủ a c hú n g ta , c hẳ ng h ạ n nh ư c ác c hữ s ố v i ết t ay , c h ún g t a c ó th ể
“ c o i là h a i hì n h ả n h tư ơ ng tự ” n ế u c h ú n g c ó c ùn g c hữ s ố. Trư ớc đ ó c hú n g t a đ ã t h ảo l u ậ n v ề
mộ t m ạ ng lư ớ i t hầ n k i nh đư ợc đ à o tạ o đ ể n h ận dạ n g c ác c h ữ s ố v i ết t ay . V à c h ún g t a c ó th ể
c o i m ạ ng l ư ới t hầ n k i n h này đư ợc th i ết l ậ p s ao c h o ở đ ầu r a c u ối c ùn g , n ó đ ặt hì n h ản h v ào
10 ng ă n k hác nh a u, m ỗ i ng ă n c hứ a m ột c hữ s ố.
Như n g đ iề u gì s ẽ x ảy r a nế u c h ún g t a “c hặ n n ga n g” nh ữ n g gì đ a n g d iễ n r a b ên tr o ng m ạn g
lư ớ i t hầ n k in h tr ư ớc k h i q uy ế t đ ị nh c u ối c ù n g “đ ó là s ố 4” đư ợc đ ư a ra ? C h ún g t a c ó th ể k ỳ
v ọn g rằ n g bê n tr on g mạ n g lư ớ i t hầ n k i nh c ó nh ữ n g c o n s ố đặc tr ư ng c ho h ìn h ả n h “ hầ u hế t
g iố n g 4 n hư ng h ơ i g i ố ng 2” h oặc m ột s ố t hứ tư ơn g tự . V à ý tư ở n g l à l ấy n hữ n g c on s ố như
v ậy đ ể s ử d ụ ng là m t h àn h p h ần tr o ng mộ t p h ép nh ú ng .
Vì v ậy , đ ây l à k há i n iệ m. Th ay v ì tr ự c t iế p c ố g ắ n g m ô tả “h ìn h ả n h n à o gầ n hì n h ả n h n ào” ,
th ay v à o đó , c h ú ng t a x em x ét m ột nh i ệ m v ụ đ ã đ ư ợc - x ác - đ ị nh- rõ (t ro n g trư ờ n g h ợ p n à y là
nh ậ n dạ n g c h ữ s ố) m à c h ún g ta c ó th ể n hậ n đư ợc dữ l iệ u đ ào t ạo rõ r àn g - s a u đó s ử d ụn g
thự c t ế l à k h i t hự c h i ệ n n hi ệ m v ụ n ày , mạ n g lư ớ i th ầ n k i n h ng ầ m đ ị nh ph ả i đư a r a c ác “ q u y ết
đ ịn h v ề đ ộ g ần n ha u ” c ủa c ác đ iể m dữ l i ệu . ” . Vì v ậy , t hay v ì c hú n g ta p hả i n ó i rõ rà n g v ề “đ ộ
gầ n c ủa hì nh ả nh” , c h ún g t a c h ỉ c ần n ói v ề c âu h ỏi c ụ t hể v ề c hữ s ố m à m ột hì n h ả nh đạ i
d iệ n, v à s a u đ ó c h ú ng t a “ đ ể n ó c ho mạ n g l ư ớ i t h ần k in h” để x ác đ ịn h n g ầm đ ịn h r ằn g đ i ề u
đó ng ụ ý gì v ề “ đ ộ g ầ n c ủ a h ìn h ả nh ”.
V ậy v ề c hi t iế t h ơ n t hì đ i ề u n ày h o ạt độ n g n hư t hế n ào đ ối v ớ i mạ ng lư ớ i n h ậ n d ạn g c hữ s ố ?
Ch ú ng t a c ó t h ể c oi m ạn g lư ớ i b ao g ồ m 11 l ớ p l iê n t iế p, m à c h ún g ta c ó t hể t ó m t ắt m ộ t c ác h
hì n h tư ợn g n hư t h ế n à y ( v ớ i c ác c hứ c n ă n g k íc h h o ạt đư ợc h iể n t h ị dư ớ i d ạ ng c ác l ớ p r i ên g
b iệ t):
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
B an đ ầu , c hú n g t a đ a ng đư a v ào c ác hì nh ả nh t hự c t ế c ủa l ớ p đ ầ u t i ên , đư ợc b i ể u t h ị b ằn g
c ác m ản g g i á tr ị p ix e l 2 D. Và c uố i c ùn g - t ừ l ớp c uố i c ù n g - c hú ng t a lấy r a m ột m ả n g b a o
gồ m 1 0 g iá tr ị, c h ú ng ta c ó t hể n g hĩ r ằ ng m ạn g n ày “c hắc c h ắ n đ ến m ứ c n à o” v ề hì n h ản h
tư ơn g ứ n g v ớ i từ n g c h ữ s ố từ 0 đế n 9 .
Cu n g c ấp dữ l i ệu c h o hì n h ản h
v à c ác g i á tr ị c ủ a c ác n ơ - r o n tro n g l ớ p c u ố i c ù ng là :
Nó i c ác h k h ác , t ạ i t h ời đ i ểm này , m ạ ng lư ớ i t hầ n k i n h “c ự c k ỳ c h ắc c hắ n” rằ n g h ìn h ả nh n ày
l à s ố 4 - v à đ ể t hự c s ự n h ận đư ợc k ết q u ả đầ u ra “4” , c h ún g t a c h ỉ c ần c h ọ n r a v ị tr í c ủ a n ơ r on c ó g iá tr ị l ớn n h ất .
Như n g n ế u c h ú n g t a n hì n s ớ m h ơ n mộ t bư ớ c th ì s a o ? H o ạt đ ộn g c uố i c ù ng tr on g mạ n g đ ư ợc
gọ i l à s o ft max c ố g ắ n g “ bắ t b uộc p h ải c h ắc c h ắn” . Nh ư n g trư ớc k h i đi ề u đó đ ư ợc á p d ụ ng ,
c ác g iá tr ị c ủ a n ơ - r o n l à:
Tế bà o th ầ n k in h đạ i d i ện c h o “ 4” v ẫ n c ó gi á tr ị s ố c a o nh ất . N hư n g v ẫ n c ò n c ó t hô n g t i n v ề
g iá tr ị c ủ a c ác tế b ào th ầ n k i n h k h ác . V à c h ún g t a c ó t hể m on g đ ợ i rằ n g d a nh s ác h c ác c on
s ố n ày t h e o m ột n gh ĩ a nà o đó c ó t h ể đ ư ợc s ử dụ n g đ ể m ô t ả “b ả n c hấ t” c ủa hì n h ả n h - v à d o
đó để c un g c ấ p t hứ gì đó mà c hú n g ta c ó th ể s ử d ụn g l à m p hư ơ ng ph á p n hú n g. Và v ì v ậy , v í
dụ , mỗ i tr on g s ố 4 ở đ ây c ó mộ t “ c hữ k ý ” h ơ i k hác (h o ặc “ tí nh n ă n g nh ú ng”) - t ấ t c ả đ ề u rất
k hác s o v ớ i 8 :
Ở đ ây , v ề c ơ b ản , c h ú ng tô i đa n g s ử d ụn g 1 0 s ố để mô tả hì n h ả n h c ủ a m ìn h . N hư n g t h ư ờ ng
th ì s ẽ t ốt h ơ n k hi s ử d ụn g n hi ề u h ơn t hế . Và v í d ụ : tr o ng m ạ ng n hậ n d ạ n g c hữ s ố c ủ a c h ún g
tô i , c h ún g t ô i c ó th ể n hậ n đư ợc m ột m ản g g ồm 5 00 s ố b ằ ng c ác h nh ấ n v à o l ớp trư ớc đ ó . V à
đây c ó l ẽ l à m ột m ả ng h ợp lý đ ể s ử d ụ ng như m ột “ hì n h ản h n h ún g” .
Nế u c hú n g t a m uố n tr ự c q ua n h óa rõ r à n g “k hô n g g ia n hì n h ả n h” c h o c ác c hữ s ố v i ết t ay ,
c hú n g ta c ầ n “ g i ảm k í c h thư ớc ” , m ột c ác h h iệ u q uả b ằ ng c ác h c h iế u v éc - tơ 50 0 c h iề u m à
c hú n g ta đã đ ư a v à o , c hẳ n g h ạn n hư k h ô ng g ia n 3 D:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ú ng t a v ừ a nó i v ề v i ệc tạ o r a mộ t đ ặc tí n h (v à từ đó là v iệc nh ú n g) c h o hì n h ả nh dự a tr ên
v i ệc x ác đ ịn h s ự tư ơ n g tự c ủa hì n h ả n h m ộ t c ác h h iệ u qu ả bằ n g c á c h x ác đ ịn h x em ( t ùy t he o
tậ p h uấ n l uy ện c ủa c h ú ng t a) l i ệ u c hú n g c ó tư ơ ng ứ ng v ớ i c ùn g m ộ t c hữ s ố v i ết t ay h ay k h ô ng .
V à c h ún g t a c ó t hể là m đ i ều tư ơ n g tự k h á i qu á t h ơn nh i ề u đố i v ớ i h ìn h ả n h nế u c h ú ng t a c ó
mộ t tậ p h u ấn luy ệ n x á c đ ị nh , c h ẳn g h ạn n hư m ỗ i hì n h ản h t hu ộc v ề l oạ i đ ố i tư ợn g n à o t r on g
s ố 5. 00 0 l oạ i đ ố i tư ợ n g ph ổ b iế n ( m èo , c hó , gh ế , …) . V à t h eo c ác h n ày , c h ún g ta c ó th ể t ạo
r a m ộ t h ìn h ả n h n h ún g đư ợc “ n eo” b ằn g c á c h x ác đ ịn h c ác đ ối t ư ợ ng c h un g c ủa c hú n g t a,
như n g s a u đó " k h ái q uá t h ó a x u n g q u an h đ ó" t he o hà n h v i c ủ a m ạn g lư ớ i t h ần k i nh . Và v ấn
đề l à tr on g c h ừ n g m ự c h à nh v i đó c òn ph ù h ợp v ớ i c ác h t hứ c c on n gư ờ i c hú n g ta c ả m nh ậ n
v à di ễ n g iả i v ề hì n h ản h t h ì đ i ề u này c u ố i c ù n g s ẽ tr ở t hà n h mộ t s ự nh ú ng “c ó v ẻ p h ù h ợ p v ớ i
c hú n g t a” v à hữ u íc h tr o n g t hự c t ế k h i t hự c h i ệ n c ác n h i ệm v ụ “g i ốn g - như - p h án- đ oá n- c ủac on- n gư ờ i”.
O K , v ậy là m c ác h nà o đ ể c hú n g t a t hự c h i ệ n t he o c ù n g m ộ t c ác h t i ếp c ậ n đ ể t ìm c ác p hầ n
nh ú ng c h o c ác từ ? Đ i ề u q u an tr ọn g l à b ắt đ ầ u từ m ột n hi ệ m v ụ v ề n hữ n g từ mà c h ún g t a t hự c
s ự c ó t hể dễ d àn g t h ự c hi ệ n h u ấn l uy ệ n . V à n h iệ m v ụ t iê u c hu ẩ n n hư v ậy l à “ dự đ o án từ ” .
Hãy tư ởn g tư ợn g c hú ng t a đư ợc tặ n g “c on mè o __ _” . Dự a t rê n m ột k h ối lư ợ n g l ớ n v ă n bả n
( g iả s ử nộ i d u ng v ă n b ản c ủ a tr an g w eb) , x ác s u ất c h o c ác từ k h ác nh a u c ó th ể “ đ i ền v à o c hỗ
trố n g” l à gì ? Ho ặc , nó i c ác h k h ác , k h i đư a r a “ __ _ m à u đe n _ __” t h ì x ác s uấ t c h o c ác “ từ đ ệ m”
k hác nh a u l à ba o n h i ê u?
Là m t hế nà o đ ể c h ún g ta t h iế t l ậ p v ấn đề này c ho mộ t m ạn g l ư ới t h ầ n k i nh ? C uố i c ùn g, c hú ng
ta p hả i h ìn h th à n h m ọ i th ứ d ư ới d ạ ng c ác c o n s ố. V à m ột c ác h để t hự c h iệ n đ iề u n ày là g án
mộ t s ố d uy n hấ t c h o mỗ i từ tr on g s ố 5 0 , 0 0 0 từ t h ôn g dụ n g tr on g t i ế ng A nh . V ì v ậy , v í d ụ :
“ th e” c ó th ể là 9 14 v à “ c at” ( c ó k h o ản g tr ắ n g p hí a trư ớc ) c ó t h ể l à 3 5 42 . (V à đây l à n h ữ ng
c on s ố thự c t ế đ ư ợc s ử d ụn g b ở i G PT - 2) . V ì v ậy , đ ố i v ới b à i t o án “c on m è o _ _ _” , đ ầ u v ào
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
c ủa c hú n g t a c ó t h ể l à { 91 4, 3 54 2} . Đầ u r a n ên nh ư th ế nà o ? C h à , nó ph ả i là mộ t d a nh s ác h
ba o g ồm 5 0, 0 00 s ố h o ặc h ơn đ ể đư a ra x ác s uấ t h iệ u qu ả c h o từ n g từ c ó t hể “đ i ề n v à o” . V à
mộ t l ần n ữ a , để t ìm r a c ác h n h ún g , c hú n g t a mu ố n “c h ặn” “p h ần bê n tr on g” c ủ a mạ n g l ư ớ i
th ầ n k in h ng ay tr ư ớc k h i n ó “ đ i đế n k ết l u ậ n” - v à s au đ ó c họ n đ ư ợc d an h s ác h c ác s ố x u ất
h iệ n ở đó v à c hú n g t a c ó th ể n g hĩ r a n hư “ đặ c trư n g c ho t ừ n g từ ” .
Tuy ệt , v ậy n hữ ng đ ặc đ iể m đ ó tr ô ng s ẽ n hư th ế n à o? Tr o ng 10 nă m q ua , đ ã c ó mộ t l o ạt c ác
hệ t h ốn g k h ác n ha u đ ã đư ợc p h át tr i ể n ( wor d 2v ec , G l o V e, BE RT , G PT ,…) , m ỗ i h ệ th ố ng d ự a
trê n m ột p hư ơ n g ph á p t iế p c ậ n m ạn g l ư ới t h ần k in h k h ác n ha u. N hư n g s uy c h o c ù n g t ấ t c ả
c hú n g đề u l ấy từ n gữ v à đặc tr ư n g h óa c h ú n g bằ n g n hữ n g d an h s á c h từ hà n g tră m đ ế n h àn g
ng h ìn c o n s ố .
Ở d ạ ng th ô , c ác “ v éc - t ơ nh ú ng” n ày k h á t h iế u t hô n g t i n. Ví d ụ: đây là n hữ n g gì G PT - 2 tạ o r a
dư ớ i dạ n g v éc - t ơ nh ú ng t h ô c h o ba t ừ c ụ th ể:
Nế u c h ún g t a l à m đ iề u g ì đ ó nh ư đo k ho ả ng c ác h gi ữ a c ác v éc - t ơ này t h ì c hú n g ta c ó th ể tì m
th ấy n hữ n g t hứ như “ độ g ần g ũ i” c ủ a c ác t ừ . S a u n ày , c h ú ng ta s ẽ t hả o l uậ n c h i t iế t h ơ n v ề
nhữ n g gì c h ún g t a c ó th ể c oi l à tầ m qu a n tr ọn g “ n hậ n t hứ c ” c ủ a c ác n h ún g n hư v ậy . Nh ư ng
h iệ n t ại , đ i ểm c hí nh l à c h ún g t a c ó m ột c á c h hữ u íc h để b i ế n c á c từ t h àn h c ác t ập h ợ p s ố
“ th â n - t h iệ n- v ớ i- m ạn g- l ư ớ i- th ầ n- k in h” .
Như n g th ự c r a c h ú ng ta c ó t h ể đ i x a h ơ n v i ệc c h ỉ m ô t ả c ác từ b ằn g t ập h ợp c ác c o n s ố ,
c hú n g ta c ũ n g c ó t hể l àm đ i ề u này đố i v ới c ác c hu ỗ i từ h o ặc t o à n b ộ k h ối v ăn b ả n. Và bê n
tro n g C ha tG PT , đ ó l à c ác h nó x ử lý m ọ i t hứ . N ó lấy v ăn bả n mà nó c ó đư ợc c h o đ ế n n ay v à
tạ o ra mộ t v éc - t ơ n h ú ng để b iể u d i ễ n n ó. S a u đ ó, mục ti ê u c ủ a n ó l à tì m x ác s u ấ t c h o c á c từ
k hác n ha u c ó t hể x ảy r a t i ếp th e o. V à n ó t rì n h b ày c âu trả l ờ i c ủa n ó c h o đi ề u n ày dư ớ i d ạn g
mộ t d an h s ác h c ác c o n s ố v ề c ơ b ả n đư a r a x ác s uấ t c h o m ỗi từ tr on g s ố 5 0 , 0 00 từ c ó t hể
ho ặc h ơ n.
( Nó i đ ú ng ra , C ha tG PT k h ôn g x ử lý c ác từ , m à l à v ớ i “ m ã th ô ng b á o ” - đ ơn v ị ng ô n ng ữ th uậ n
ti ệ n c ó th ể là to à n b ộ từ h o ặc c ó t h ể c h ỉ là c ác p h ần nh ư “pr e” ho ặc “i n g” h o ặc “ iz e d” . L àm
v i ệc v ới m ã t h ôn g bá o g iú p C h atG P T x ử lý c á c từ h i ế m, từ g h ép v à t ừ k hô n g ph ả i là t iế n g A nh
dễ dà n g h ơn , v à đ ô i k h i, d ù t ốt h ay x ấ u, đ ể ph á t m in h ra từ m ới .)
Bên trong ChatGPT
O K , v ậy l à c u ố i c ù ng c hú n g ta đã s ẵn s à n g đ ể th ả o l uậ n v ề nhữ n g gì b ê n tr on g C ha tG PT . V à
v ân g , c uố i c ù n g, đ ó l à m ột mạ n g lư ớ i t hầ n k i nh k h ổ ng lồ - h i ện là ph i ê n bả n c ủ a c á i g ọ i l à
mạ n g G PT - 3 v ớ i 1 7 5 t ỷ tr ọ n g s ố . T he o nh i ề u c ác h , đây l à mộ t m ạ n g lư ới t hầ n k i nh r ất g i ốn g
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
v ớ i n hữ ng mạ n g lư ớ i k hác mà c hú n g t a đ ã t hả o lu ậ n. N hư ng đây l à m ột mạ n g lư ớ i t h ần k i nh
đư ợc th i ết l ậ p đặc b i ệt đ ể x ử lý n g ôn n gữ . V à t í nh n ă ng đ á ng c h ú ý n hấ t c ủ a n ó l à m ột p hầ n
c ủa k iế n tr úc m ạn g l ư ớ i th ầ n k i n h đư ợc g ọ i l à “ m áy b iế n đ ổ i” .
Tro ng c ác mạ n g lư ớ i t hầ n k i nh đ ầu t iê n mà c hú n g t a đã th ả o lu ậ n tr ư ớc đây , mọ i tế b ào t h ần
k i nh ở b ất k ỳ l ớ p n ào v ề c ơ bả n đ ều đư ợc k ết n ố i (í t nh ất l à c ó trọ ng s ố) v ớ i m ọ i t ế bà o t hầ n
k i nh tr ên l ớ p tr ư ớc đ ó. Như n g lo ạ i mạ n g đư ợ c k ết n ố i đ ầy đủ n ày (c ó lẽ) l à qu á mứ c c ần t h iế t
nế u m ột a i đó đ a ng l à m v iệc v ới dữ li ệ u c ó c ấu tr úc c ụ t h ể, đ ã bi ết . Và d o đ ó, v í dụ , tr on g
g ia i đo ạ n đ ầ u x ử lý hì nh ả nh , t hô n g t hư ờ ng s ử dụ n g c á i đư ợc - gọ i- l à m ạ ng lư ớ i t h ần k i nh nế p
c uộ n (c o nv o l ut i o na l) ( “ c onv n ets ” ) , tr o n g đó c ác t ế b ào t hầ n k i n h đư ợc bố tr í mộ t c ác h h iệ u
qu ả tr ê n m ột l ư ới t ư ơ ng t ự nh ư c ác p ix el tr on g ả n h - v à đư ợc k ế t n ố i v ớ i n h au . c h ỉ đ ế n c ác
tế b à o th ầ n k i nh lâ n c ận tr ê n lư ớ i .
Ý tư ở ng c ủa máy bi ế n đổ i là là m m ộ t c á i gì đ ó ít n h ất là t ư ơn g tự đ ố i v ớ i c ác c h u ỗ i m ã th ôn g
bá o t ạo nê n m ộ t đ oạ n v ăn bả n. Như n g t hay v ì c h ỉ x ác đ ị nh mộ t v ù n g c ố đ ị nh t ro n g c h uỗ i ba o
gồ m c ác k ết nố i c ó t h ể c ó , th ay v à o đ ó, má y b i ế n đổ i đư a r a k h á i n i ệ m “c h ú ý ” - v à ý t ư ở ng
“ c hú ý ” n h i ều h ơn đế n mộ t s ố ph ầ n c ủ a c hu ỗ i h ơ n n hữ ng ph ầ n k h ác . Có t h ể m ột ng ày n à o đó
s ẽ h ợ p lý nế u c h ỉ b ắt đầ u m ột mạ n g lư ớ i t h ầ n k in h ph ổ qu á t v à th ự c h iệ n t ấ t c ả c ác tùy c h ỉn h
th ô ng qu a đà o tạ o. N h ư ng ít n hấ t c h o đế n bâ y gi ờ , tr o ng t hự c t ế, đ i ều q ua n tr ọ n g l à ph ả i “ mô đu n h óa” m ọ i t hứ - n h ư c ác h m à m áy b i ế n đ ổ i đ ã l àm , v à c ó l ẽ nh ư b ộ n ã o c ủ a c h ún g ta c ũn g
v ậy .
V ậy C ha tG PT ( hay đ ú ng h ơ n l à mạ n g G P T - 3 dự a tr ê n n ó) t hự c s ự là m gì ? H ãy n h ớ l ại r ằn g
mục đ íc h tổ n g t hể c ủ a nó l à t i ếp tục v ă n b ả n t he o c ác h “ h ợ p lý ”, dự a tr ên n hữ n g gì nó th ấy
đư ợc từ q uá tr ìn h đ à o t ạo m à n ó đ ã c ó đư ợ c (b a o gồ m v i ệc x e m hà n g tỷ tra n g v ăn bả n từ
we b, v .v … ). Vì v ậy , tạ i b ấ t k ỳ t h ời đ i ểm n ào , n ó c ó đư ợc mộ t lư ợ ng v ă n b ả n n h ất đị n h - v à
mục t iê u c ủa n ó l à đư a r a m ột lự a c h ọ n t hí c h h ợ p c h o m ã t hô n g bá o t i ế p t he o để b ổ s un g
th ê m v ào .
Nó h oạ t đ ộ ng tr on g ba gi a i đo ạ n c ơ b ả n. Đầ u t i ên , n ó l ấy c h u ỗ i m ã t hô n g b á o tư ơ n g ứ n g v ới
v ăn bả n c h o đ ế n n ay v à tì m p h ần nh ú ng (t ứ c l à m ộ t m ản g s ố) đạ i d iệ n c h o c ác m ã n ày . S au
đó , n ó h o ạt độ n g tr ê n ph ầ n n h ún g n ày - t h eo “c ác h mạ n g l ư ới th ầ n k in h t i êu c h uẩ n” , v ớ i c ác
g iá trị “ lư ợ n q u a” c ác l ớ p l i ên t iế p tr o ng m ạ ng - để tạ o r a m ột p h ần n hú n g m ớ i (tứ c l à mộ t
mả n g s ố m ớ i) . Sa u đ ó , nó l ấy p h ần c u ố i c ù ng c ủ a m ả ng n ày v à t ạo từ mả n g đó m ộ t m ản g
c hứ a k h o ản g 5 0 , 00 0 g i á tr ị b iế n th à n h x ác s uấ t c ho c ác m ã t h ô ng bá o t iế p th e o c ó t hể k hác
nh a u. ( V à, v â n g, đi ề u đó x ảy r a là c ó c ù ng s ố lư ợ n g th ẻ đ ư ợc s ử d ụ ng như s ố từ p h ổ b iế n
tro n g t iế n g A n h, m ặc dù c h ỉ c ó k h oả n g 3 ,0 0 0 th ẻ là từ ng uy ê n v à ph ầ n c ò n l ạ i l à c ác từ r ờ i
r ạc ) .
Mộ t đi ể m qu a n tr ọ ng l à m ọ i ph ầ n c ủ a qu á tr ìn h này đ ều đư ợc t hự c h iệ n b ởi m ột m ạn g l ư ớ i
th ầ n k i nh c ó tr ọ ng s ố đư ợc x ác đ ị nh b ằ n g c ác h đà o t ạo từ - đ ầu- đ ế n- c u ố i c ủ a m ạn g . Nó i c ác h
k hác , tr ê n t hự c t ế k h ô ng c ó g ì n g oạ i trừ k i ế n tr úc t ổn g t h ể đư ợc “ th i ết k ế m ột c ác h r õ r à ng” ,
mọ i t hứ c h ỉ l à " đư ợc h ọc " từ dữ l i ệ u đà o t ạo .
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Tuy n h iê n, c ó r ất n h iề u c h i t i ết tr o ng c ác h k i ến tr úc đư ợc t h iế t l ập - p h ản á n h t ấ t c ả c ác l oạ i
k i nh n gh i ệ m v à t r uy ề n th uy ết v ề m ạ ng lư ớ i t hầ n k i n h. V à – ng ay c ả k hi đ i ề u n ày c h ắc c hắ n
đa n g đ i v à o n gõ c ụt - t ô i ng h ĩ s ẽ r ấ t hữ u íc h k h i n ó i v ề m ột s ố c h i ti ế t đó , n h ất l à đ ể h iể u
đư ợc đ i ều g ì s ẽ x ảy r a k h i x ây d ự n g m ột t hứ gì đ ó n hư C ha tG PT .
Trư ớc t i ê n l à m ô - đ u n nh ú ng . Đ ây l à s ơ đ ồ b i ểu di ễ n Ng ô n n gữ W o l fra m c h o G P T - 2 :
Đầ u v à o l à m ột v éc - t ơ g ồ m n m ã th ô ng b á o ( đã đư ợc trì n h bày nh ư tr o ng p h ần tr ư ớc bằ ng
c ác s ố n g uy ê n từ 1 đ ế n k h oả n g 5 0 , 0 00) . M ỗ i m ã t h ôn g b á o n ày đư ợc c h uy ển đổ i ( bằ n g m ạn g
lư ớ i t hầ n k i n h m ột l ớ p ) t h àn h m ộ t v éc - t ơ nh ún g (c ó độ dà i 76 8 đ ố i v ớ i G PT - 2 v à 12 , 28 8 đ ố i
v ớ i G PT - 3 c ủ a C h atG P T) . Tr o ng k h i đó , c ó mộ t “ đư ờ ng d ẫn p h ụ ” l ấy c h u ỗ i v ị tr í (s ố n g u y ên)
c ho c ác m ã t hô n g b áo v à t ừ n hữ n g s ố ng uy ên này tạ o ra mộ t v éc - t ơ n hú n g k h ác . Và c uố i
c ùn g , c ác v éc - t ơ nh ú n g từ g i á tr ị m ã th ô ng b áo v à v ị tr í m ã th ô ng b áo đư ợc c ộ ng lạ i v ớ i n ha u
- đ ể t ạo r a c hu ỗ i v éc - t ơ n h ún g c u ố i c ùn g từ mô - đ u n nh ú ng .
Tạ i s a o ng ư ời t a c h ỉ c ộn g c ác v éc - t ơ n h ún g g iá tr ị m ã t hô n g b áo v à v ị tr í mã t h ô ng b á o v ớ i
nh a u? Tô i k hô n g n g hĩ c ó b ất k ỳ k h oa h ọc c ụ th ể n à o v ề v ấ n đ ề này . C hỉ l à c ó n h iề u thứ k há c
nh a u đ ã đư ợc t hử , v à đây l à t hứ c ó v ẻ c ó h i ệ u q u ả. V à đ ó là m ột ph ần tr uy ề n t h uy ế t v ề m ạn g
lư ớ i t hầ n k i n h m à - th eo mộ t n g hĩ a n ào đó - m i ễ n l à t hi ế t l ập mà ngư ờ i t a c ó l à “ g ần đú ng” ,
th ô ng t hư ờ n g c ó t h ể h i ểu c hi ti ế t c h ỉ b ằ ng c ác h đà o t ạ o đ ầy đ ủ m à k h ôn g t hự c s ự c ầ n ph ả i
“ h iể u ở c ấp đ ộ k ỹ th u ậ t” v ề c ác h thứ c mạ n g n ơ- r on tự t h i ết l ậ p c ấ u h ìn h c ủ a n ó.
Đây l à c hứ c nă n g c ủa mô - đ u n nh ú ng , h oạ t đ ộn g tr ên c hu ỗ i h el l o h e ll o h e l lo h e l lo he l l o h e ll o
he l l o h el l o h e l lo h e l lo by e by e by e by e by e b y e by e by e by e by e :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Các p hầ n tử c ủ a v éc - t ơ nh ú ng c h o t ừ n g mã t hô n g b á o đư ợc h i ể n t h ị ở c uố i tr an g v à tr ê n t oà n
tra n g, đ ầu t i ên c h ú n g t a t h ấy m ột l o ạt c ác n h ún g “ h e l lo” , ti ế p th e o l à mộ t l oạ t c ác n hú n g “ by e” .
Mả n g t hứ ha i ở tr ê n là nh ú ng th e o v ị trí - v ớ i c ấu trúc c ó v ẻ h ơ i ng ẫu n hi ê n c ủ a nó c h ỉ l à thứ
“ tì nh c ờ đư ợc h ọc ” ( tr on g tr ư ờ n g h ợp này là tr on g G PT - 2).
Đư ợc r ồ i, s a u m ô - đ u n n h ún g là “ s ự k i ện c hí nh ” c ủ a m áy b i ến áp : mộ t c h u ỗ i c á i đư ợc - g ọ i- là
“ k hố i c h ú ý ’ ( 1 2 c ho G PT - 2, 9 6 c h o G PT - 3 c ủa C ha tG PT) . T ất c ả đề u k h á phứ c t ạp - v à g ợ i
nh ớ đ ến c ác hệ t hố n g k ỹ t h uậ t l ớn k h ó - hi ể u đ iể n hì nh , ho ặc , đ ố i v ớ i v ấn đ ề đ ó, l à c ác hệ
th ố ng s in h h ọc . Nh ư n g d ù s a o đ i nữ a, đây l à b i ểu di ễ n s ơ đồ c ủa m ộ t “ k h ối c hú ý ” duy nh ấ t
( dà n h c h o G PT - 2) :
Tro ng m ỗ i k h ố i c hú ý n hư v ậy c ó m ột t ập h ợ p " đầ u c hú ý " (1 2 đố i v ớ i G PT - 2, 9 6 đố i v ớ i G PT 3 c ủa C h atG PT ) - m ỗ i k hố i h o ạt đ ộ ng m ộ t c á c h độc lậ p tr ên c ác k h ố i gi á tr ị k h ác nh a u tr on g
v éc - t ơ nh ú ng . ( V à , v â ng , c h ú ng t a k h ô ng bi ết b ấ t k ỳ lý d o c ụ t hể nà o t ạ i s a o n ên t ác h v éc - t ơ
nh ú ng h o ặc ý n gh ĩ a c ủa c ác p h ần k h ác n ha u c ủa n ó l à gì” , đ ây c h ỉ là m ộ t t ro n g nhữ n g th ứ
đư ợc c h o l à “ c ó h i ệu q uả” ) .
O K , v ậy n hữ ng đ ầ u c hú ý l à m gì ? Về c ơ b ản , c h ún g là mộ t c ác h “n hì n lạ i” tr o ng c hu ỗ i m ã
th ô ng b á o ( tứ c l à tr o n g v ă n bả n đư ợc t ạ o r a c h o đ ến nay ) v à “ đ ón g g ói qu á k hứ ” dư ớ i d ạn g
hữ u íc h c h o v iệc t ìm k i ếm mã t h ôn g b á o ti ế p t he o . Tr o ng ph ầ n đ ầu t i ên ở tr ên , c h ún g t a đã
nó i v ề v i ệc s ử d ụn g x ác s uấ t 2 - g a m để c h ọ n từ d ự a tr ên từ l i ền t rư ớc c ủ a c hú n g. N hữ n g gì
mà c ơ c hế “c hú ý ” t r o n g máy b i ế n đổ i t hự c h i ện là c h o p hé p “c h ú ý đế n” n g ay c ả nhữ n g từ c ó
trư ớc đ ó từ s ớ m - do đó , c ó k h ả n ăn g nắ m bắ t c ác h t hứ c , c h ẳn g hạ n , c ác đ ộn g từ c ó t h ể c h ỉ
nhữ n g d an h từ x u ấ t h i ện nh i ều t ừ tr ư ớc c h ú ng tr o ng mộ t c â u.
Ở c ấp đ ộ c h i ti ế t h ơn , đ iề u m à m ột đ ầu c h ú ý l à m l à k ết h ợ p lạ i c ác k hố i tr on g c ác v é c - t ơ
nh ú ng đư ợc l i ê n k ết v ớ i c ác mã t h ô ng bá o k hác nh a u, v ớ i c ác tr ọ n g s ố n h ất đị n h. V à d o đó ,
v í dụ : 12 đ ầ u c hú ý tr o ng k h ố i c h ú ý đ ầu t i ên (tro n g G PT - 2) c ó n ộ i d un g s a u (“ n hì n - lạ i- t ất- c ảđư ờn g - đ ến- n ơ i- bắ t- đầ u- c ủ a- tr ì n h- tự - c ủ a- c ác - m ã- t hô n g- bá o”) c ác mẫ u “ t rọ n g s ố tá i t ổ h ợp”
c ho c hu ỗ i “ h e ll o , by e ” ở tr ên :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
S au k h i đ ư ợc x ử lý b ở i c ác đ ầu c hú ý , “ v éc - t ơ nh ú ng đư ợc đ án h - trọ n g - s ố- l ạ i” t hu đ ư ợc (c ó
độ d à i 76 8 đ ố i v ớ i G P T - 2 v à 1, . 28 8 đ ối v ới G PT - 3 c ủ a C h at G P T) đư ợc c huy ể n qu a m ột l ớ p
mạ n g lư ớ i t h ần k i n h “ đư ợc k ết nố i đ ầy đủ ” t i êu c h uẩ n . T hậ t k h ó đ ể h i ể u đ ư ợc l ớ p n ày đ an g
l àm g ì. N hư ng đ ây l à đồ t h ị c ủa ma tr ận tr ọ ng s ố 7 6 8× 7 6 8 m à nó đa n g s ử d ụ ng ( đ ây l à dà n h
c ho G PT - 2) :
Lấy c ác đư ờ n g tr u n g bì n h đ ộ n g 6 4 × 6 4 , m ột s ố c ấ u trúc (đ i - b ộ- ng ẫ u- nh i ên (r an d om- w a lk is h) ) b ắt đ ầ u x uấ t h i ện :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Đi ề u gì quy ế t đ ị n h c ấ u tr úc n ày ? C u ối c ù n g, c ó lẽ đ ó là m ột s ố “ m ã hó a m ạn g th ầ n k in h ” c ủa
c ác tí n h n ăn g c ủ a n g ô n n gữ l o ài ng ư ời . N hư ng c ho đế n b ây g i ờ , n hữ n g t ín h n ă n g đó c ó th ể
l à gì v ẫ n c ò n c hư a đư ợc b i ết r õ . Tr ê n t hự c t ế, c h ú ng t a đ an g “m ở bộ nã o c ủ a Ch a tG PT r a”
( ho ặc ít nh ất là G PT - 2 ) v à p h át h i ện đư ợc r ằ ng , v â ng , tro n g đó nó r ất p hứ c t ạp v à c h ú ng t a
k hô n g h iể u n ó - mặc d ù c u ối c ùn g n ó tạ o ra ng ô n n gữ m à c o n ngư ờ i c ó t hể nh ậ n b iế t đư ợc .
V ân g, v ậy l à s a u k hi đ i q u a m ột k h ố i c h ú ý , c h ún g ta đ ã c ó m ộ t v éc - t ơ n hú n g m ớ i - v é c - t ơ
nh ú ng n ày s a u đó l ần lư ợt đư ợc c huy ể n q u a c ác k h ố i c h ú ý bổ s u n g (t ổ ng c ộ ng l à 1 2 đố i v ớ i
G PT - 2 ; 9 6 đố i v ớ i G P T - 3) . M ỗ i k hố i c h ú ý c ó mô hì n h c ụ t h ể c ủ a r i ên g nó v ề trọ n g s ố “c hú ý ”
v à “ đư ợc k ết n ối đ ầy đ ủ” . Đ ối v ới G PT - 2, đ ây l à c h u ỗ i c á c tr ọ ng s ố c hú ý c h o đ ầu v à o “ he l l o,
by e” , d àn h c h o đ ầ u c h ú ý đ ầ u t iê n:
V à đây là “ m a t r ậ n” ( d i - c huy ể n- tr u n g- b ìn h) c ho c ác l ớ p đư ợc k ế t n ố i đầy đủ :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Th ật k ỳ l ạ, mặc d ù c ác “ ma tr ận tr ọn g s ố” n ày t ro n g c ác k h ối c h ú ý k hác n ha u trô n g k h á g iố ng
nh a u, n hư ng s ự p h ân bố k íc h t hư ớc c ủ a c ác trọ n g s ố c ó t h ể h ơ i k hác n h au (v à k h ôn g p hả i
l úc nà o c ũ n g l à G a us s i an) :
Vì v ậy , s au k h i đ i qu a tấ t c ả c ác k h ố i c hú ý n ày , h i ệu ứ n g r ò ng c ủ a máy b i ế n đ ổ i l à g ì ? Về c ơ
bả n , nó c huy ể n đ ổi bộ s ư u t ập n h ún g b a n đ ầ u c h o c hu ỗ i m ã t hô n g bá o t hà n h b ộ s ư u t ập c uố i
c ùn g . Và c ác h h o ạt đ ộ ng c ụ th ể c ủa C ha tG P T s a u đ ó l à c h ọ n lầ n nh ú ng c u ố i c ù n g tr o n g bộ
s ư u t ập n ày v à “ gi ả i m ã” n ó đ ể tạ o r a m ộ t d a nh s ác h c ác x ác s u ất c ho mã t h ôn g b á o n ào s ẽ
x uấ t h i ện t i ếp t h eo .
Do đ ó, đ ó là p hác t hả o nh ữ n g gì ở b ê n tr o ng Ch at G P T. N ó tr ô ng c ó v ẻ k h á p hứ c t ạ p ( đặc b iệ t
l à d o c ó n h iề u “ lự a c h ọn k ỹ t h uậ t” c h ắc c hắ n là h ơ i t ùy t i ệ n c ủa n ó), n hư ng t hự c r a c ác y ếu
tố c u ố i c ùn g c ó l i ên q ua n l ạ i r ất đ ơ n g iả n . B ở i v ì c u ố i c ù ng t hì n hữ n g g ì c hú n g t a đ an g gi ả i
quy ế t c h ỉ l à m ộ t m ạ ng lư ớ i t h ần k i n h đư ợc t ạo t hà n h từ “c ác tế b à o t h ần k i nh n h ân tạ o” , mỗ i
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
tế b ào t hầ n k i nh t hự c h iệ n t h a o t ác đ ơn g i ản l à lấy m ột t ập h ợ p c á c đầ u v à o b a o gồ m c ác c on
s ố, s a u đ ó k ế t h ợp c h ún g v ới c ác tr ọ n g s ố n hấ t đ ị nh .
Đầ u v ào b a n đ ầ u c ủa Ch at G P T là m ột m ả ng s ố (c ác v éc - t ơ n hú n g d àn h c h o m ã t hô n g b á o c ho
đế n n ay ) v à đ iề u g ì x ả y r a k h i C ha tG PT “c h ạ y ” đ ể tạ o r a m ã th ô ng bá o m ớ i c h ỉ l à nh ữ n g c on
s ố n ày “ lư ớ t qu a” c ác l ớ p c ủ a m ạn g lư ớ i t h ầ n k in h , v ới m ỗ i t ế b ào th ầ n k in h “ thự c h i ện c ôn g
v i ệc c ủa n ó” v à c h uy ể n k ết q u ả c ho c ác t ế b ào t h ần k i n h ở l ớ p t iế p th e o. K h ôn g c ó v ò ng l ặ p
ho ặc “ q u ay l ạ i” . M ọ i t h ứ c h ỉ “ c h uy ển t i ế p” th ô ng qu a m ạ ng .
Đó là m ột t h iế t l ậ p r ấ t k hác s o v ớ i mộ t h ệ t hố ng tí nh to á n th ô n g thư ờ ng - c h ẳ n g h ạn như má y
Tur i ng - t ro n g đó c ác k ết q u ả đư ợc “ tá i x ử lý ” l ặ p đi lặ p l ạ i b ở i c ùn g c ác p hầ n tử tí n h to á n. Ở
đây - í t nh ấ t là tr o ng v i ệc t ạ o r a mộ t mã t h ô ng b á o đầ u r a n hấ t đị nh - mỗ i p hầ n tử tí n h to á n
( tứ c l à tế bà o t hầ n k i n h ) c h ỉ đư ợc s ử d ụn g m ột lầ n.
Như n g t he o m ột ng h ĩa nà o đó , v ẫ n c òn c ó m ột “v ò ng l ặp b ên n go à i ” tá i s ử dụ n g lạ i c ác y ếu
tố t í nh to á n n gay c ả b ên tr o n g C ha tG PT . B ở i v ì k hi Ch a tG PT t ạ o r a m ã t h ôn g b á o m ớ i , n ó
l uô n “ đ ọc ” ( tứ c l à l ấy l àm đầ u v à o) to à n bộ c hu ỗ i m ã th ô ng b á o x u ất h i ện tr ư ớc nó , b ao gồ m
c ả m ã t hô n g b áo m à c hí n h b ản t h ân Ch a tG P T đã “v i ết r a ” trư ớc đ ó. Và c hú n g t a c ó t h ể c o i
th i ết l ập n ày c ó n g hĩ a l à C h atG PT t hự c h i ệ n - í t nh ất l à ở c ấ p đ ộ n g oà i c ù ng c ủ a nó - l iê n
qu a n đ ến m ộ t “ v ò ng l ặp ph ả n hồ i” , m ặc d ù v òn g l ặ p tro n g đ ó m ỗi l ầ n l ặp đư ợc h iể n t hị m ột
c ác h r õ r à ng d ư ới dạ n g m ã th ô ng b á o x u ất h i ện tr o ng v ăn b ả n m à nó t ạ o r a.
Tuy nh i ên , hãy q uay l ạ i c ố t lõ i c ủ a C ha tG PT : mạ n g lư ớ i t hầ n k in h đ ư ợc s ử dụ n g n h i ều l ần để
tạ o r a từ ng m ã t hô n g bá o . Ở mộ t mứ c đ ộ n à o đó , đ iề u n ày r ất đ ơ n g i ản : to à n bộ t ập hợ p c ác
tế b ào th ầ n k in h nh â n tạ o gi ố ng h ệt n ha u. V à m ộ t s ố p hầ n c ủa m ạ ng c h ỉ ba o gồ m c ác l ớ p t ế
bà o t h ầ n k i n h ( “ đư ợc k ết nố i đ ầy đ ủ”) , tr o ng đó m ọ i t ế b à o t h ần k i nh tr ên m ột l ớ p n h ất đ ị nh
đư ợc k ết n ố i ( v ớ i m ột v à i tr ọ n g s ố) v ớ i m ọi tế b ào t h ần k i n h trê n l ớ p t rư ớc đó . Như n g đ i ều
đặc b i ệt v ới k iế n tr úc b iế n đ ổi c ủ a n ó là C h atG PT c ó c ác b ộ p hậ n v ớ i nh i ề u c ấu tr úc h ơ n,
tro n g đ ó c hỉ c ác tế b à o t h ần k i nh c ụ th ể tr ê n c ác l ớ p k hác n ha u đư ợc k ế t nố i . (T ất nh i ên ,
ngư ờ i ta v ẫn c ó t hể nó i r ằ n g “ t ất c ả c ác t ế b à o t hầ n k in h đ ề u đư ợc k ết nố i v ớ i n ha u” - n h ư ng
mộ t s ố c h ỉ c ó tr ọ ng s ố b ằ ng k h ô ng ) .
Ng o ài r a, c ó n hữ n g k hí a c ạ nh c ủ a m ạ ng lư ớ i t hầ n k i n h tro n g Ch a tG P T m à h ầ u hế t k h ôn g đư ợ c
c o i l à c h ỉ ba o gồ m c ác l ớ p “ đ ồ ng n h ất” . Và v í d ụ - n hư p h ần t óm t ắ t m a ng tí n h bi ể u tư ợ n g ở
trê n đã c h ỉ r a - b ê n tr on g mộ t k hố i c hú ý c ó nhữ n g n ơ i m à “n h i ều bả n s ao đư ợc tạ o r a” c ủa
dữ l iệ u đ i v ào , mỗ i b ả n s au đ ó đi q u a mộ t “ đư ờn g d ẫn x ử lý ” k há c n ha u, c ó k h ả nă n g l i ên
qu a n đế n m ột s ố l ớp k hác n h au v à c hỉ t á i h ợ p s au n ày . N hư n g mặc d ù đây c ó t h ể l à mộ t b iể u
d iễ n t h uậ n t i ện c ho n h ữ ng gì đ an g d i ễ n r a , í t n hấ t v ề mặ t n g uy ê n tắc , l u ôn c ó t hể n gh ĩ đế n
c ác l ớ p “ l ấp đầy mộ t c ác h dày đ ặc ” , n hư n g c h ỉ c ần c ó mộ t s ố tr ọ ng s ố b ằ ng k hô n g.
Nế u n hì n v à o tuy ế n đ ư ờ ng dà i n h ất t hô n g q ua C h atG P T t h ì c ó k h oả n g 4 00 l ớ p ( lõ i) t h a m g ia
- t h eo m ột s ố c ác h t h ứ c t h ì đ ây k h ô ng p hả i là m ột c on s ố lớ n . N hư n g c ó h à ng tr iệ u t ế bà o
th ầ n k i nh - v ới t ổ ng s ố 1 7 5 tỷ k ết nố i v à do đ ó c ó 1 7 5 tỷ trọ n g s ố . V à m ột đ i ề u c ầ n c ô ng n hậ n
l à mỗ i k h i C ha tG PT t ạ o r a m ã t h ô ng b á o m ớ i , nó p h ải t hự c h i ện mộ t ph é p t í nh li ê n qu a n đ ến
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
từ n g trọ n g s ố n ày . Xé t v ề m ặt tr i ển k h a i, c á c tí nh t oá n n ày c ó t hể đư ợc tổ c hứ c p hầ n n ào
“ th e o l ớ p” t h à nh c ác h oạ t đ ộ ng m ản g s on g s on g c ao c ó t h ể đư ợc t hự c h i ệ n m ột c ác h t hu ận
ti ệ n trê n G PU . Như n g đ ố i v ớ i m ỗ i mã t h ôn g b áo đã đư ợc t ạ o r a, v ẫn p h ả i thự c hi ệ n 1 7 5 tỷ
ph é p tí n h (v à c u ố i c ù n g l à n h iề u h ơ n mộ t c h út) - d o đ ó , v â ng , k h ô ng c ó g ì n gạc nh i ên k h i c ó
th ể m ất mộ t k h oả n g th ờ i g i an đ ể t ạo r a m ột đo ạ n v ă n bả n d à i v ớ i Ch at G P T.
Như n g c uố i c ù n g, đ i ề u đ án g c h ú ý là t ất c ả nhữ n g h oạ t đ ộn g n ày - đ ơ n g i ản n hư c h ú ng v ốn
c ó - b ằn g c ác h n à o đó c ó t h ể c ùn g n ha u x o ay x ở đ ể t hự c h i ện c ô n g v i ệc t ạ o r a v ăn b ả n “ gi ố ng như - c o n- ng ư ời” tố t đ ế n n hư v ậy . Cầ n p h ả i n hấ n m ạ nh l ại r ằ ng (í t n hấ t l à t h eo n hữ n g gì c hú n g
tô i b i ết) k h ô ng c ó “ lý do v ề lý th uy ết t ố i hậ u” n ào g i ả i th íc h t ạ i s ao mọ i t hứ n hư th ế n ày l ạ i
ho ạ t độ n g. Và t r ê n t hự c t ế, n hư c h ú n g ta s ẽ t hả o l u ận , t ô i ng h ĩ c h ú ng t a p h ả i x e m đây l à mộ t
k há m ph á k h oa h ọc - c ó k h ả nă n g g ây r a ng ạ c nh i ê n : r ằ ng b ằn g c á c h n à o đ ó tro n g m ộ t m ạn g
lư ớ i t hầ n k i n h n hư C h atG PT , c ó t h ể n ắm bắ t đư ợc bả n c h ấ t c ủa nh ữ ng gì bộ n ã o c o n n g ư ờ i
x oay x ở đ ể tạ o r a n g ô n n gữ .
Đào tạo ChatGPT
Đư ợc r ồ i, v ậy là c h ú n g tô i đ ã đư a r a p h ác t hả o v ề c ác h h oạ t đ ộn g c ủa C h atG P T s au k h i nó
đư ợc t h iế t l ậ p. Như n g n ó đã đư ợc t h iế t lậ p n hư th ế n à o ? Tấ t c ả 1 7 5 tỷ t rọ n g s ố đó tr on g
mạ n g lư ớ i t hầ n k in h c ủa n ó đư ợc x ác đị n h n hư t h ế n à o? V ề c ơ b ả n , c h ún g l à k ế t q u ả c ủ a qu á
trì nh đ à o t ạo q uy mô r ất l ớ n, dự a tr ê n mộ t k ho v ă n bả n k hổ n g lồ - từ tr ê n w e b, tro n g s á c h,
v .v … - do c on n gư ờ i v i ết r a . Như c h ú n g t ô i đ ã nó i , n gay c ả k h i đư ợ c c u ng c ấp t ất c ả d ữ l i ệu
đà o t ạ o đó , c h ắc c h ắ n mạ n g lư ớ i t h ần k i nh s ẽ k h ô ng t h ể t ạo đư ợc th àn h c ô n g v ă n b ản “ g iố ng c on- n gư ờ i”. Và , m ột l ầ n nữ a, dư ờ n g nh ư c ần c ó n hữ ng p h ầ n k ỹ th u ật c h i t i ết đ ể b iế n đ i ều đ ó
th à nh h i ện t hự c . Nh ư n g đ i ề u n g ạc nh i ê n l ớ n - v à k há m p há - c ủ a Ch at G P T là n ó ho à n t oà n
c ó t hể thự c h iệ n đ ư ợc . V à đ i ề u đ ó - tr ên t h ự c t ế - m ộ t m ạn g lư ớ i t h ần k i nh v ớ i “c h ỉ” 17 5 tỷ
trọ n g s ố c ó t hể t ạ o r a mộ t “ m ô h ìn h h ợ p lý ” c ủa v ăn b ả n đư ợc v i ế t b ở i c on ngư ờ i .
Tro ng th ờ i h iệ n đạ i , c ó r ấ t n h i ều v ăn b ản d o c o n n gư ờ i v iế t r a d ư ớ i d ạ n g k ỹ th u ật s ố. W eb
c ôn g c ộ n g c ó í t n h ất v à i tỷ tr an g d o c on ngư ờ i v i ế t, v ớ i t ổn g s ố c ó lẽ l à m ột ng hì n tỷ từ v ăn
bả n . Và n ếu m ộ t tr o ng s ố đó b a o g ồ m c ác tr an g we b k h ôn g - c ôn g- k ha i , c on s ố c ó t h ể l ớ n h ơn
ít n hấ t 10 0 l ầ n. C ho đ ến n ay , h ơ n 5 tr i ệu c u ốn s ác h s ố h óa đ ã đư ợc c u ng c ấ p ( tr on g s ố 1 00
tri ệ u c uố n đ ã t ừ n g đư ợc x u ất b ản ) , c u ng c ấ p t h ê m 10 0 tỷ t ừ v ă n bả n . Và t h ậm c h í c òn c hư a
đề c ậ p đế n v ăn b ả n b ắt n gu ồ n từ l ờ i n ói tr o ng v i d eo , v .v … ( Th e o s o s á n h c á n h ân , t ổ n g s ản
lư ợ ng t ài l i ệu đ ã x uấ t bả n tr o n g đ ờ i c ủ a t ô i l à d ư ới 3 tr iệ u t ừ m ộ t c hú t v à tr o ng 3 0 n ă m qu a
tô i đ ã v iế t k h oả n g 15 t r i ệu từ e m ai l v à c ó l ẽ đã n h ập t ổn g c ộ ng 5 0 tri ệ u từ - v à c h ỉ t ro n g v à i
nă m q u a, t ôi đã n ó i h ơ n 10 tr i ệ u từ trê n c ác bu ổ i p há t trự c t iế p . V à , v ân g, t ô i s ẽ đ ào t ạ o mộ t
bo t từ t ất c ả n hữ n g đ i ều đó ) .
Như n g, t ốt th ô i, v ớ i tấ t c ả dữ li ệ u n ày , là m c ác h nà o đ ể đ à o tạ o m ột mạ n g lư ớ i t hầ n k in h t ừ
nó ? Q uá trì n h c ơ b ản l à r ấ t r ấ t n h iề u như c hú n g t a đ ã t h ảo l uậ n t ron g c ác v í dụ đ ơn g i ản ở
trê n. B ạn t rì nh bày mộ t l oạ t c ác v í dụ , s a u đ ó b ạ n đ iề u c h ỉ n h c ác tr ọ ng s ố tr on g m ạ ng để gi ảm
th i ểu l ỗ i (“ t ổ n t hấ t” ) m à m ạ ng t ạo r a dự a tr ê n c ác v í d ụ đó . Vấ n đề c hí nh g ây r a t ốn k é m c ho
v i ệc “ la n truy ề n n gư ợ c ” từ lỗ i l à mỗ i k h i bạ n là m đ iề u n ày , m ọi tr ọn g s ố tr o n g m ạ ng t h ư ờ ng
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
s ẽ t h ay đổ i í t nh ất m ộ t c h ú t v à c ó r ất n h iề u trọ n g s ố c ần x ử lý . ( “ Tín h t oá n n gư ợc ” thự c tế
thư ờ n g c h ỉ k h ó h ơn m ột y ế u t ố k h ôn g đ ổ i nh ỏ s o v ớ i t ín h t oá n c h u y ển t i ế p ) .
V ớ i p hầ n c ứ n g G PU hi ện đạ i , th ậ t đ ơ n g iả n để t í nh t o án k ết q u ả t ừ h à ng l oạ t h àn g n g hì n v í
dụ s o n g s o ng . Nh ư n g k h i nó i đ ế n v i ệc thự c s ự c ậ p n hậ t c ác tr ọn g s ố tr on g m ạ ng lư ớ i t hầ n
k i nh , c ác p hư ơ ng p há p h i ệ n t ạ i y ê u c ầ u n gư ờ i t a thự c h i ện v i ệc nà y v ề c ơ bả n t h e o từ n g đ ợt
mộ t. (V à , v â n g, đ ây c ó l ẽ l à n ơ i b ộ n ão th ự c s ự - v ớ i c ác y ếu t ố t ín h t o án v à bộ n h ớ k ết h ợ p
c ủa c hú n g - h i ệ n tạ i , ít n h ất c ó m ộ t l ợ i th ế v ề m ặt k iế n tr úc ) .
Ng ay c ả tr on g n hữ ng t r ư ờ n g h ợp h ọc c ác h à m s ố h ọc tr ô n g c ó v ẻ đ ơn g i ả n m à c hú n g ta đ ã
th ả o l uậ n trư ớc đ ó , c hú n g tô i t h ấy r ằ ng c h ún g t a t hư ờn g p h ải s ử d ụ ng hà n g tr iệ u v í dụ để
đà o tạ o th à nh c ô ng m ột m ạn g , í t n h ất l à t ừ đầ u . Đ i ều n ày c ó n g hĩ a là c h ún g ta s ẽ c ầ n ba o
nh i ê u v í d ụ đ ể đà o tạ o m ột m ô hì n h “ ng ô n ng ữ g i ốn g - nh ư - c o n- ng ư ờ i” ? D ư ờn g n hư k hô n g c ó
bấ t k ỳ c ác h t hứ c “ m a n g t í nh lý t huy ế t” c ơ bả n nà o đ ể b i ết . Như n g trê n thự c t ế, C ha tG PT đ ã
đư ợc đ ào t ạ o th à nh c ô ng tr ê n v à i tr ăm tỷ từ v ăn bả n.
Mộ t s ố v ăn bả n n ó đã đư ợc n ạ p n hi ề u l ầ n, m ột s ố c h ỉ m ớ i mộ t l ầ n. Như n g b ằn g c á c h nà o đó ,
nó “c ó đư ợc th ứ nó c ầ n” từ v ă n bả n m à n ó n hì n th ấy . Như n g v ớ i k hố i lư ợn g v ă n b ản n ày đ ể
học hỏ i , c ầ n ph ả i c ó m ột m ạ n g l ớ n nh ư th ế n ào để “ học t ốt ”? Mộ t l ần nữ a , c h ún g t a c hư a c ó
mộ t c ác h t hứ c v ề lý th uy ế t c ơ b ả n đ ể n ó i v ề đ iề u n ày . C uố i c ùn g - như c h ún g t a s ẽ t hả o l uậ n
th ê m b ê n d ư ớ i - c ó l ẽ c ó m ộ t “ n ộ i du n g t h uậ t to á n t ổn g th ể” nh ấ t đ ị nh đ ố i v ới n g ôn n gữ c ủa
c on n gư ờ i v à n hữ n g g ì c o n ng ư ời t hư ờn g n ó i bằ n g n g ô n n gữ đ ó. N hư n g c â u h ỏ i ti ế p t h eo l à
mạ n g l ư ới th ầ n k i n h s ẽ h i ệu qu ả đế n m ứ c n ào k h i tr iể n k ha i mộ t mô hì n h dự a tr ê n n ộ i du n g
th u ật to á n đó . Và m ột l ần nữ a , c h ú ng t a k h ô n g bi ế t - mặc d ù s ự th à nh c ô n g c ủ a Ch a tG PT c ho
th ấy n ó k h á h iệ u q u ả mộ t c ác h h ợ p lý .
V à c u ố i c ù ng , c h ú ng t a c h ỉ c ó th ể lư u ý r ằn g C ha tG PT t hự c hi ệ n nhữ n g g ì n ó l à m b ằ ng c ác h
s ử d ụn g v ài tr ă m tỷ tr ọ ng s ố - c ó t h ể s o s á n h v ề s ố lư ợ n g v ớ i t ổ ng s ố từ ( h o ặc m ã th ô ng b áo)
c ủa dữ l iệ u đ à o tạ o m à n ó đư ợc c u ng c ấ p . Th eo mộ t s ố c ác h, c ó l ẽ đ i ều đá n g ng ạc n h i ên
( m ặc d ù c ũ ng đư ợc q u an s á t t h eo k i n h ng h iệ m tr o n g n hữ n g g ì t ư ơn g tự n h ỏ h ơ n c ủ a C h at G PT)
r ằn g “k íc h t hư ớc c ủ a mạ n g” dư ờ n g n hư h oạ t độ n g tố t l ạ i c ó t h ể s o s á n h v ớ i “ k íc h t hư ớc c ủa
dữ l i ệ u đ ào tạ o” . R ốt c uộc , c h ắc c h ắ n k h ô ng ph ả i b ằ ng c ác h n ào đó “ bê n tr o ng Ch at G P T”, t ất
c ả v ă n bả n đó từ w e b v à s ác h, v .v … đư ợc “ lư u trữ trự c t i ếp ”. B ở i v ì n hữ n g gì thự c s ự bê n
tro n g C ha tG PT l à m ộ t l oạ t c ác s ố - v ớ i đ ộ c h ín h x ác n hỏ h ơ n 1 0 c h ữ s ố m ộ t c h út - đ ó l à mộ t
s ố l oạ i m ã h ó a p hâ n t án c ủa c ấ u tr úc tổ n g h ợ p c ủ a tấ t c ả v ă n b ản đó .
Hay n ó i c ác h k h ác , c h ún g t a c ó th ể hỏ i “ nộ i du n g t hô n g t i n h i ệu qu ả” c ủ a n g ôn n gữ c o n n gư ờ i
l à gì v à n gư ờ i ta thư ờ ng nó i gì v ớ i n ó. C h ún g ta c ó c ác k h o v ă n b ản t h ô b a o g ồm c ác v í d ụ
v ề n g ôn ng ữ . Và s a u đ ó l à bi ể u d i ễn tr on g m ạn g t h ần k i nh c ủ a C ha tG PT. B i ểu d iễ n đ ó r ất c ó
th ể k hác x a v ớ i b i ểu d i ễn “ t ố i t h iể u v ề m ặt th uậ t t o á n” ( như c h ú ng t a s ẽ t h ảo l u ận b ên dư ớ i).
Như n g đó l à m ột đ ạ i d i ện m à m ạ ng lư ớ i t hầ n k i nh c ó t hể s ử dụ n g m ột c ác h dễ d à n g. V à tr on g
c ác h trì n h b ày n ày , c ó v ẻ n hư c uố i c ùn g c ó m ộ t c h út “n é n” d ữ l i ệu h uấ n l uy ệ n ; c ó v ẻ như
tru n g b ì nh v ề c ơ b ản c h ỉ m ấ t í t h ơ n m ột tr ọn g s ố m ạ ng t hầ n k i nh m ột c h út đ ể ma n g “n ộ i d un g
th ô ng t i n” c ủ a m ột từ t r on g dữ l iệ u h u ấn luy ệ n.
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
K hi c h ú ng ta c h ạy C h a tG PT để tạ o v ă n b ả n, v ề c ơ b ả n, c h ún g ta p hả i s ử d ụ ng từ ng tr ọn g s ố
mộ t l ầ n. V ì v ậy , nế u c ó n tr ọ n g s ố, c hú n g ta c ó t hứ tự n bư ớc t ín h t oá n đ ể thự c hi ệ n - m ặc
dù tro n g t hự c t ế, n hi ề u bư ớc tr o n g s ố c hú n g t hư ờn g c ó t hể đư ợc t hự c hi ệ n m ộ t c ác h s on g
s on g tr on g G P U. N hư ng n ế u c hú n g ta c ầ n k ho ả ng n từ d ữ l iệ u h uấ n l uy ện đ ể t hi ế t lậ p c ác
trọ n g s ố đ ó , t h ì t h eo n hữ n g g ì đ ã n ó i ở trê n, c h ún g ta c ó t hể k ế t l uậ n r ằ ng c h ú ng t a s ẽ c ần
k ho ả ng n 2 bư ớc t ín h t oá n đ ể t hự c h iệ n h u ấ n l uy ệ n m ạ ng – v à đ ó l à lý do t ạ i s a o, v ớ i c ác
phư ơ n g p há p h i ệ n tạ i , c uố i c ùn g n gư ờ i t a c ầ n n ói v ề n hữ ng nỗ lự c đà o t ạ o tr ị g iá hà n g tỷ - đôl a.
Vượt quá Đào tạo Cơ bản
P hầ n l ớ n n ỗ lự c tr on g v i ệc đ à o t ạ o C h atG P T đư ợc dà n h c ho v i ệc “ tr ìn h b ày c h o nó ” m ộ t lư ợ ng
l ớ n v ă n bả n h i ện c ó t ừ c ác tr a n g w e b, s ác h, v .v … N hư ng h óa r a c ò n c ó m ột p hầ n k h ác dư ờn g n hư k h á q u an t r ọn g - c ũ ng t h ế.
Ng ay s a u k h i ho à n th àn h q u á t r ì nh “ đà o t ạ o th ô” từ k h o v ă n b ản g ốc đư ợc tr ìn h b ày , mạ n g
lư ớ i t hầ n k in h b ê n tr o ng Ch at G P T đ ã s ẵ n s à ng bắ t đ ầ u tạ o v ă n bả n c ủ a c h ín h n ó, ti ế p t ụ c từ
l ờ i n hắc , v .v … Tuy nh i ên , k ế t q uả t ừ v i ệc n à y t hư ờ ng c ó v ẻ h ợ p lý , c hú n g c ó x u hư ớ ng - đặc
b iệ t l à đ ố i v ớ i c ác đ o ạ n v ă n b ản d à i h ơ n - “ đ i l an g t ha n g” t he o n hữ n g c ác h thứ c thư ờ n g k h ôn g g iố n g - c o n- ng ư ời . C hẳ ng hạ n, đó k hô n g p hả i l à t hứ m à n gư ờ i t a c ó th ể d ễ d à ng ph át h iệ n
bằ n g c ác h t hự c h i ệ n c ác t hố n g k ê t ruy ề n t hố n g tr ên v ă n b ản . N hư n g đó l à đ i ều m à n hữ n g
ngư ờ i t hự c s ự đ ọc v ăn b ả n dễ dà n g nh ậ n t hấ y .
V à mộ t ý tư ở n g q ua n t r ọn g tr o ng k ế t c ấ u c ủa C ha tG PT l à c ó t h êm mộ t bư ớc nữ a s a u k h i “đọc
mộ t c ác h th ụ đ ộn g” n h ữ ng t hứ n hư c ác tr a ng w eb : đ ể c on n gư ờ i t h ự c tư ơ n g t ác tíc h c ự c v ớ i
Ch at G P T, x e m n hữ ng gì nó t ạo r a v à t hự c t ế là c u ng c ấ p c h o nó ph ản h ồi v ề “ l àm th ế nà o để
tr ở t hà n h mộ t c h a tb ot tố t” . Nh ư n g là m th ế nà o m ạ n g lư ớ i t hầ n k in h c ó t h ể s ử d ụ ng t hô n g ti n
ph ả n h ồ i đ ó ? Bư ớc đ ầu t iê n c hỉ l à đ ể c on ngư ờ i đ á n h gi á k ết qu ả từ m ạn g lư ớ i t hầ n k i nh .
Như n g s a u đó , m ột mô h ìn h m ạ ng t h ần k i nh k hác đư ợc x ây dự n g đ ể c ố g ắ ng dự đ oá n c ác x ếp
hạ n g đ ó . N hư n g g i ờ đ ây , m ô h ìn h dự đ o án n ày c ó th ể đư ợc c h ạy - v ề c ơ b ả n g i ốn g như mộ t
hà m t ổn t hấ t - tr ê n mạ ng b a n đầ u , t hự c t ế là c h o ph é p mạ n g đó đ ư ợc “ đ i ều c h ỉ nh ” b ởi p h ản
hồ i c ủ a c o n n gư ờ i đã đư ợc đ ư a r a. V à k ết q uả tr on g t hự c tế dư ờ n g n hư c ó ả n h hư ở n g l ớ n
đế n s ự th à nh c ôn g c ủ a h ệ th ố ng tr o ng v iệc t ạo r a k ết q u ả đ ầu r a “ g iố n g - c o n- ng ư ời ”.
Nó i c h u ng , t hậ t t hú v ị k h i m ạn g “ đư ợc đà o t ạ o b an đầ u ” d ư ờn g n hư c ầ n m ộ t c h út “ c h ọc g h ẹo”
để k h iế n nó đ i t he o n h ữ ng hư ớ ng c ụ t h ể m ột c ác h hữ u íc h. Ngư ờ i t a c ó th ể ng h ĩ r ằ ng đ ể m ạn g
ho ạ t độ n g n hư th ể n ó “ đã học đ ư ợ c đi ề u gì đó m ới” , n gư ờ i ta s ẽ p hả i tr uy c ậ p v à c h ạy t hu ậ t
to á n đà o t ạo , đ i ều c h ỉ nh tr ọ ng s ố, v .v …
Như n g đi ề u đó k h ôn g c hí n h x ác . T h ay v ào đó , v ề c ơ bả n , c ó v ẻ nh ư b ạ n c hỉ c ầ n nó i v ớ i
Ch at G P T đ i ều gì đó m ột lầ n - n hư mộ t p h ần c ủa l ờ i n h ắc b ạn đư a ra - v à s a u đó , n ó c ó t hể
s ử dụ n g t hà n h c ô n g n hữ n g gì bạ n đã n ói v ớ i nó k h i n ó t ạ o v ă n b ả n . V à mộ t l ầ n nữ a , t ôi n gh ĩ
r ằn g t hự c t ế l à đi ề u nà y h oạ t độ n g là m ộ t đ ầ u m ối q u an tr ọ ng đ ể h iể u C h atG P T “t hự c s ự đ an g
l àm g ì” v à n ó l i ê n qu a n n hư th ế n à o đế n c ấ u tr úc n gô n n gữ v à tư d uy c ủ a c on ngư ờ i .
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ắc c h ắn c ó đ i ều g ì đó k h á g iố n g - c on- n gư ờ i v ề nó : r ằ ng í t n h ất mộ t k h i nó đ ã đư ợc đ à o t ạ o
trư ớc , bạ n c ó t h ể n ó i v ớ i n ó đ iề u gì đó c h ỉ mộ t lầ n v à n ó c ó t hể “ nh ớ n ó” - í t n h ất l à “đ ủ l â u”
để tạ o r a m ộ t đ oạ n v ă n b ả n b ằ ng c ác h s ử d ụn g nó . V ì v ậy , đi ề u gì đa n g x ảy r a tr o n g mộ t
trư ờn g h ợ p nh ư t h ế nà y ? Nó c ó t hể là “m ọ i th ứ b ạ n đã c ó t hể n ó i v ớ i n ó t hự c s ự đã ở đâ u đ ó
r ồ i” - v à b ạ n c h ỉ đ an g d ẫn nó đ ế n đ ún g c h ỗ . N hư n g đ iề u đ ó k h ôn g c ó v ẻ gì là h ợp lý . Th ay
v ào đ ó , đi ề u c ó v ẻ tr ô ng đ ú ng h ơ n l à, v ân g, c ác p hầ n tử đ ã c ó s ẵ n ở đ ó, n hư ng c ác c h i t iế t
c ụ t h ể đư ợc x ác đ ịn h b ở i t hứ g ì đ ó g i ốn g n h ư “q uỹ đạ o g iữ a c ác p hầ n tử đ ó” v à đó l à n h ữ ng
gì b ạ n đ an g g i ớ i th i ệ u k h i bạ n n ó i v ớ i n ó v ề đ iề u g ì đó .
V à t hự c s ự , g iố n g n hư đ ối v ới c o n ng ư ời , nế u bạ n nó i v ớ i n ó mộ t đ i ều g ì đ ó k ỳ l ạ v à bấ t ng ờ
ho à n t oà n k h ô n g p h ù h ợ p v ới k h uô n k hổ m à n ó b i ết , t hì c ó v ẻ n hư n ó s ẽ k h ôn g t h ể “t íc h h ợ p”
th à nh c ô ng đ i ều n ày . Nó c h ỉ c ó t hể “ t íc h h ợ p” đi ề u đ ó n ếu v ề c ơ bả n nó đ a ng c h ạy t h e o mộ t
c ác h k há đ ơ n g i ản t r ê n k h uô n k h ổ m à n ó th ự c s ự đ ã c ó.
Mộ t l ần n ữ a , c ũn g đ á ng đ ể c h ỉ r a r ằ ng c hắ c c h ắ n c ó n hữ n g “ g i ới h ạn v ề t h uậ t to á n” đố i v ớ i
nhữ n g g ì mà m ạn g lư ớ i t h ần k i nh c ó t h ể “t i ếp n hậ n” . N ó i v ớ i n ó c ác q uy t ắc “ nô n g c ạ n” ở
dạ n g “c á i này c h uy ể n s an g c ái k i a” , v .v … , v à m ạ ng lư ớ i t h ần k i nh r ất c ó t hể s ẽ c ó th ể b iể u
d iễ n v à t á i t ạ o n hữ ng đ iề u này m ột c ác h c h í nh x ác - v à t hự c s ự n h ữ ng g ì n ó “ đ ã b i ết” từ ng ô n
ngữ s ẽ c u ng c ấ p c h o n ó m ột m ô h ìn h n g ay l ậ p tứ c đ ể tu â n th e o. N h ư ng c ố g ắn g c u ng c ấp c ho
nó c ác quy t ắc c h o mộ t p h ép tí n h “ s â u” thự c tế b ao g ồm n h iề u bư ớ c c ó t h ể c ó k h ôn g th ể rút
gọ n v ề m ặ t t ín h t o á n v à n ó s ẽ k h ô ng h oạ t độ ng . (H ãy nh ớ rằ n g ở m ỗ i bư ớc , n ó l uô n c h ỉ “c un g
c ấp dữ l i ệ u v ề p hí a tr ư ớc ” tr on g m ạn g c ủa nó , k hô n g ba o g i ờ lặ p l ạ i trừ k h i tạ o r a c ác m ã
th ô ng b á o m ớ i ) .
Tất nh i ên , m ạn g c ó t h ể tì m h iể u c â u tr ả l ờ i c ho c ác ph é p tí nh “ t ố i g i ản” c ụ t h ể. N hư ng ng ay
k h i c ó nh i ề u k h ả n ă ng t ổ h ợp , t hì v ẫ n k h ôn g c ó c ác h t i ếp c ậ n t he o “k iể u- tr a- c ứ u - b ả ng” n ào
như v ậy s ẽ h o ạt đ ộ n g đư ợc . Và v ì v ậy , v ân g, g i ốn g n hư c on n gư ờ i , đã đế n l úc m ạ n g lư ớ i t hầ n
k i nh “ ti ế p c ậ n” v à s ử d ụn g c ác c ô ng c ụ t ín h t oá n t hự c t ế . ( V à , v â ng , Ng ô n n gữ W ol fr am |A l ph a
v à W o lfr a m đ ặc b i ệt p hù h ợ p, b ở i v ì c h ún g đư ợc x ây dự ng đ ể “ n ó i v ề m ọi t hứ tr ên t hế g i ớ i”,
g iố n g nh ư c ác m ạn g l ư ớ i t hầ n k i n h m ô - h ì nh - ng ô n- ngữ ) .
Điều gì Thực sự Khiến cho ChatGPT Hoạt động?
Ng ô n ng ữ c ủa c on ng ư ờ i - v à c ác q u á t rì nh tư duy l iê n q u an đ ế n v i ệc tạ o r a n ó - dư ờ ng như
l uô n đạ i d iệ n c ho m ột l oạ i ph ứ c t ạp đ ỉ nh c a o nà o đó . Và t hự c s ự , đ iề u tr ô ng c ó v ẻ h ơ i đ án g
c hú ý l à b ộ n ã o c o n n gư ờ i - v ớ i mạ n g l ư ới “c h ỉ” 1 0 0 tỷ n ơ - ro n t h ần k i nh (v à c ó th ể l à 10 0
ng h ìn tỷ k ết n ối ) c ó t h ể c h ị u tr ác h n hi ệ m v ề đ iề u đ ó . C ó l ẽ, ng ư ời ta c ó t hể tư ởn g tư ợ n g , c ó
mộ t t hứ g ì đ ó đố i v ớ i bộ n ão h ơ n là m ạ ng l ư ớ i c ác t ế bà o th ầ n k i nh c ủ a c hú n g - g i ố ng như
mộ t l ớ p v ật lý m ớ i nà o đ ó v ẫ n c òn c h ư a đư ợ c k h á m ph á. N hư n g g i ờ đ ây v ớ i C ha tG PT , c hú n g
ta đã c ó m ộ t th ô n g t in m ớ i q ua n tr ọ n g: c h ú n g t a b i ết r ằ n g m ột mạ n g lư ớ i t hầ n k in h n h ân t ạo ,
th u ần t úy v ớ i s ố l ư ợn g k ết n ố i tư ơ ng đ ư ơn g v ớ i s ố lư ợ n g tế bà o t hầ n k i n h c ó tro n g n ã o c ó
k hả nă n g tạ o r a n g ôn ngữ c ủa c on n gư ờ i t ốt m ột c ác h đ á n g ng ạc n h iê n.
V à, v â ng , đó v ẫ n là m ộ t h ệ th ố ng l ớ n v à phứ c tạ p - v ớ i s ố trọ n g s ố mạ n g lư ớ i t h ần k i n h tư ơ ng
đư ơn g v ớ i s ố từ c ủa v ăn b ản h iệ n c ó tr ê n t h ế g i ớ i. N hư n g ở mộ t m ứ c độ n ào đ ó, dư ờn g như
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
v ẫn k hó t i n r ằ ng t ấ t c ả s ự p ho n g ph ú c ủ a n g ô n n gữ v à n hữ ng đ i ề u mà nó c ó th ể n ó i l ạ i c ó t hể
đư ợc g ói g ọ n tr o n g m ộ t hệ t hố n g hữ u hạ n n h ư v ậy . Mộ t p hầ n c ủ a n hữ n g g ì đa n g d iễ n r a c hắc
c hắ n l à s ự p hả n á n h c ủa hi ệ n tư ợ ng ph ổ b i ế n ( l ầ n đ ầu t i ên tr ở n ên rõ r àn g tr o ng v í dụ v ề q uy
tắc 3 0) rằ n g c ác quy t r ìn h tí n h to á n c ó th ể k hu ếc h đ ại đ á ng k ể độ phứ c t ạ p r õ r à ng c ủa c ác
hệ t hố n g ng ay c ả k h i c ác quy t ắc c ơ b ản c ủ a c hú n g k há đ ơ n g iả n . T uy nh i ên , trê n t hự c tế ,
như c h ú ng t a đ ã th ả o l uậ n ở tr ê n , c ác m ạn g lư ớ i t hầ n k i nh t hu ộc l oạ i đư ợc s ử d ụn g tr on g
Ch at G P T c ó x u hư ớ ng đư ợc x ây dự n g đặc b i ệt đ ể h ạ n c h ế tác đ ộn g c ủ a h iệ n tư ợn g này - v à
k hả nă n g tí n h t oá n t ố i g iả n l i ê n q ua n đ ế n n ó - n h ằ m m ục đ íc h là m c ho v i ệc đ ào t ạ o c ủ a c h ún g
tr ở nê n d ễ t iế p c ậ n h ơ n.
Ti ếp t he o, v ậy là m t h ế nà o mà m ột t hứ nh ư Ch at G P T c ó th ể t i ế n x a n hư v ậy v ớ i n gô n n gữ ?
Tô i n gh ĩ c â u tr ả l ời c ơ b ả n là ng ô n ng ữ nằ m ở m ột c ấ p đ ộ c ơ bả n đ ơ n g iả n h ơ n n hi ề u s o v ớ i
v ẻ ng o ài c ủ a n ó. V à đ i ều n ày c ó ng h ĩa l à Ch atG PT – t hậ m c h í ng ay c ả v ớ i c ấ u tr úc m ạn g t hầ n
k i nh đ ơ n g iả n c u ố i c ù ng c ủ a n ó – v ẫn c ó k hả n ă ng “ nắ m b ắt đư ợ c b ản c h ấ t” c ủa n g ôn ngữ
c on ngư ờ i v à tư d uy đ ằn g s a u n ó m ột c ác h t hà n h c ô ng . V à h ơ n nữ a, tr o ng qu á tr ìn h đ à o tạ o
c ủa m ìn h , C h atG P T b ằ ng c ác h n à o đ ó đã “k h ám p h á mộ t c ác h n g ầ m đị n h” bấ t k ỳ q uy lu ậ t n ào
tro n g ng ô n n gữ ( v à tư duy ) k hi ế n đ i ều n ày tr ở n ê n k hả t h i.
Th eo t ô i, th à nh c ô n g c ủa C ha tG PT l à m an g l ạ i c h o c h ún g ta b ằ ng c hứ n g v ề m ột m ản g k ho a
học c ơ b ản v à qu a n tr ọn g : nó g ợi ý r ằ ng c h ún g t a c ó t hể m o ng đ ợ i s ẽ c ó “c ác quy lu ật n gô n
ngữ ” m ớ i - v à “ c ác q uy l u ật tư d uy ” h i ệ u q uả - ra k hỏ i n ơ i đ ó đ ể k h á m p há . Tr on g C h atG P T đư ợc x ây dự ng g i ốn g như mộ t mạ n g lư ớ i th ầ n k i nh - c ác lu ậ t đ ó t ốt n hấ t l à ng ầ m h iể u. N h ư ng
nế u b ằn g c ác h nà o đ ó c h ún g ta c ó t hể là m c ho l u ật tr ở n ên r õ r àn g t h ì s ẽ c ó k h ả n ăn g t hự c
h iệ n n hữ ng đi ề u m à C ha tG PT c ó th ể l à m t he o n hữ n g c ác h trự c t i ế p, h i ệ u q uả h ơn - v à m in h
bạc h h ơ n r ấ t nh i ề u.
Như n g, t uy ệ t v ờ i, v ậy nhữ n g l uậ t n ày c ó t h ể g i ốn g n hư t h ế nà o ? C uố i c ù n g, c h ún g p hả i c ho
c hú n g t a mộ t s ố l o ại đ ơ n t hu ốc v ề c ác h n gô n ngữ - v à nh ữ n g đi ề u c hú n g t a nó i v ớ i nó - đ ư ợc
k ết h ợ p v ớ i nh a u. S a u đ ó, c hú n g ta s ẽ t h ảo l uậ n v ề c ác h “n hì n v à o b ên tr o ng C h atG P T” c ó
th ể c h o c h ún g t a mộ t s ố g ợ i ý v ề đ i ề u n ày v à c ác h nhữ n g gì c hú n g ta b i ết t ừ v i ệc x ây d ự ng
ng ô n n gữ máy t í nh g ợ i ý m ột c on đ ư ờ ng p hí a trư ớc . N hư n g tr ư ớc ti ê n, hãy th ả o l u ận v ề ha i
v í dụ đ ã b i ết từ lâ u v ề “ q uy l uậ t ng ô n n gữ ” - v à c ác h c hú n g l iê n q ua n đ ế n ho ạ t độ n g c ủa
Ch at G P T.
Đầ u t i ê n là c ú ph á p c ủa n gô n n gữ . Ng ô n ng ữ k h ôn g c hỉ l à m ột m ớ hỗ n độ n n gẫ u nh i ê n c ủa
c ác từ . T hay v à o đ ó , c ó ( tư ơn g đ ố i) c ác q uy tắc n gữ p h áp x ác đ ị n h v ề c ác h c ác từ t hu ộc c ác
l oạ i k h ác n h au c ó th ể đư ợc đ ặt c ù n g n ha u : v í dụ : tr on g t i ến g A n h, d a nh từ c ó th ể đư ợc đặ t
trư ớc tí n h từ v à t h eo s au l à đ ộn g từ , n hư n g t hô n g t hư ờn g h a i d a n h từ k h ô ng t h ể đứ n g n gay
c ạn h n ha u . k h ác . C ấ u tr úc n gữ p há p n hư v ậy c ó th ể ( ít n h ất l à x ấ p x ỉ) đư ợc n ắm b ắt b ở i mộ t
tậ p h ợ p c ác q uy t ắc x ác đ ị nh c ác h c ó th ể k ết h ợp s ố lư ợn g “c ây ph â n t íc h c ú p h áp ” l ạ i v ớ i
nh a u:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch at G P T k h ô ng c ó b ấ t k ỳ “ k i ến th ứ c ” rõ r àn g n à o v ề c ác q uy t ắc đó . N hư ng b ằn g c ác h nà o
đó tr on g qu á tr ì nh h uấ n l uy ệ n, nó đ ã n g ầm “ ph á t h i ện” ra c h ún g - v à s a u đó dư ờ ng n hư rất
g iỏ i tro n g v iệc t he o dõ i c hú n g. V ì v ậy , đi ề u n ày h o ạt đ ộn g n hư t h ế nà o ? Ở c ấ p độ “ bứ c tr an h
l ớ n” th ì đ i ề u n ày k h ôn g r õ r àn g. Nh ư n g đ ể h i ểu r õ h ơ n, c ó l ẽ n ê n x em x ét mộ t v í dụ đ ơn g iả n
h ơn nh i ều .
Hãy x e m x ét m ột “ n g ô n ngữ ” đư ợc h ì nh t hà n h từ c ác c h u ỗi ( v à ) , v ớ i mộ t n gữ ph á p x ác đ ị nh
r ằn g c ác d ấ u ng o ặc đ ơ n ph ả i l u ôn đư ợc c â n b ằn g , như đư ợc b iể u th ị b ằn g m ột c ây ph â n tíc h
c ú p há p n hư :
Ch ú ng t a c ó t hể đà o t ạo mộ t m ạn g l ư ớ i t h ầ n k i nh để t ạ o r a c ác c hu ỗ i d ấu ng o ặc đ ơn “ đú n g
ngữ p há p” k h ô n g? C ó nh i ề u c ác h k h ác n h au để x ử lý c ác c hu ỗ i tr o ng m ạn g t hầ n k in h , n h ư ng
hãy s ử d ụ ng m ạn g b iế n đ ổ i, n hư C h atG P T đ ã là m. V à v ớ i mộ t mạ ng b ao g ồ m m áy b iế n đổ i
đ ơn g i ản , c hú n g t a c ó th ể bắ t đ ầ u c un g c ấp c ho n ó c ác c h u ỗi d ấ u ng o ặc đ ơ n đ ún g ngữ p há p
để là m v í dụ hu ấ n l uy ện . M ột đi ề u t in h t ế (t hự c t ế c ũ ng x u ấ t h iệ n tro n g th ế h ệ n g ôn ngữ c o n
ngư ờ i c ủ a C ha tG PT) l à n g oà i “ m ã t hô n g b á o n ộ i d u ng ” c ủ a c h ú n g t a ( ở đ ây là “ (” v à “ )”),
c hú n g t a p h ả i b a o g ồ m m ã t h ô ng b áo “ K ết t húc ” , đư ợc t ạo đ ể c h ỉ ra rằ n g đ ầ u ra k h ôn g nê n
ti ế p tục nữ a ( t ứ c l à đố i v ớ i C h atG PT , đ ầu r a đó đã đ ạ t đế n “p h ần c uố i c ủ a c â u c h uy ệ n”) .
Nế u c h ún g t a t h i ết l ậ p mộ t m ạn g b i ến đ ổ i c h ỉ v ớ i m ột k h ố i c h ú ý c ó 8 đầ u v à v éc - t ơ đ ặc t r ư ng
c ó đ ộ d ài 12 8 ( C h atG P T c ũn g s ử d ụn g v éc - t ơ đ ặc trư n g c ó đ ộ d à i 1 28 , n hư ng c ó đ ến 9 6 k hố i
c hú ý , mỗ i k h ố i c ó 9 6 đầ u) t hì d ư ờn g n hư k h ôn g t hể lấy nó đ ể h ọc nh i ề u v ề n gô n n gữ n g oặc
đ ơn . N hư n g v ớ i 2 đ ầ u c h ú ý , q uá tr ìn h học t ập dư ờ n g n hư h ộ i t ụ - ít n hấ t là s a u 10 tr i ệu v í
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
dụ ho ặ c h ơ n đ ã đư ợc đư a r a ( v à , nh ư thư ờ n g th ấy v ới lư ớ i m áy b i ến đổ i , v i ệc h iể n t h ị th êm
nh i ề u v í dụ dư ờn g n h ư l à m g i ảm hi ệ u s u ất c ủa nó) .
Vì v ậy , v ớ i mạ n g n ày , c hú n g t a c ó th ể thự c h iệ n tư ơn g tự như n h ữ ng g ì C h atG P T t hự c h iệ n
v à h ỏi x ác s uấ t m ã t hô ng bá o t iế p t he o s ẽ là gì - th e o trì n h tự d ấu ng o ặc đ ơ n:
V à tro n g trư ờ ng h ợp đầ u t i ên , m ạn g “k há c hắc c hắ n” rằ n g c h uỗ i k hô n g th ể k ế t t húc ở đây đ iề u đ ó l à t ốt , b ở i v ì n ếu k ết t h úc , c ác d ấ u n go ặc đ ơ n s ẽ b ị mấ t c â n b ằn g. T uy n h iê n , tro ng
trư ờn g h ợ p t hứ h a i, n ó “ nh ậ n r a c hí n h x ác ” rằn g trì n h tự c ó t h ể k ết t húc ở đây , mặc d ù n ó
c ũn g “c h ỉ r a” r ằ n g c ó t hể “ b ắt đ ầu l ạ i”, đ ặt d ấ u “(”, c ó l ẽ là d ấ u “)” đ ể t i ếp t ục . Nh ư n g, rấ t t i ếc ,
ng ay c ả v ớ i tr ọ ng s ố 4 00 , 00 0 h oặc tư ơ n g t ự đư ợc đ ào t ạo c ẩ n t hậ n, n ó v ẫ n c ho b i ết c ó x ác
s uấ t 1 5 % đ ể c ó “ ) ” là m m ã t h ôn g b áo t i ế p t he o - đ i ề u này k h ô n g đú n g, v ì đ i ều đ ó n hấ t th i ết
s ẽ d ẫn đ ế n m ột d ấ u n go ặc đ ơ n k h ôn g c â n b ằn g .
Đây l à n hữ ng gì c hú n g t ô i n hậ n đư ợc n ế u c hú n g t ô i y ê u c ầ u m ạ n g h o àn th à nh x ác s u ất c a o
nh ấ t c ho c ác c hu ỗ i d à i h ơ n d ần dầ n c ủ a ( :
V à, v â n g, c ho đế n m ộ t độ dà i nh ất đ ịn h, m ạ ng v ẫn ho ạ t độ n g k h á tố t. N hư ng s au đó nó bắ t
đầ u th ấ t b ạ i. Đ ó là m ộ t đ i ề u k h á đ iể n hì n h c ó t h ể t h ấy tr o ng m ộ t t ì nh h u ốn g “c hí n h x ác ” như
th ế n ày v ớ i mạ n g lư ớ i th ầ n k in h ( h oặc v ớ i má y h ọc nó i c h u ng) . Các trư ờn g h ợ p mà c o n n g ư ờ i
“ c ó t hể gi ả i q uy ết tr o n g n háy mắ t” t hì mạ n g lư ớ i t hầ n k i n h c ũ ng c ó th ể g i ả i q uy ế t n hư v ậy .
Như n g c ác trư ờ n g h ợ p y ê u c ầ u t hự c h i ện đi ều gì đó “ c ó tí n h th u ật t oá n hơ n” (v í dụ : đ ế m rõ
r àn g c ác d ấu n go ặc đ ơ n để x e m c hú n g c ó đ ư ợc đ ón g k h ôn g) th ì mạ n g lư ớ i t h ần k i n h c ó x u
hư ớn g bằ n g c ác h n à o đó “ q uá nô n g c ạ n v ề m ặt t í nh to á n” đ ể t hự c h i ện m ột c ác h đá n g t in c ậy .
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
( Nh â n ti ệ n, n g ay c ả C ha tG PT đ ầy đ ủ h iệ n tạ i c ũ ng g ặ p ph ả i k h ó k h ăn k h i k h ớ p c h ín h x ác c ác
dấ u n g oặc đ ơ n tr o ng c ác c h uỗ i d à i ) .
V ậy đ i ều n ày c ó ý n g hĩ a g ì đố i v ớ i nhữ n g t hứ n hư Ch a tG PT v à c ú p h áp c ủ a m ộ t n g ôn ngữ
như ti ế ng A nh ? N gô n ngữ tr o n g n go ặc đ ơ n l à “ g i ản d ị” - v à n h i ều h ơ n nữ a l à m ột “c âu c h uy ệ n
c ó t ín h th u ật to á n” . N hư n g tr o n g t i ế ng A n h, s ẽ t hự c tế h ơ n n h i ều k h i c ó t hể “ đ oá n” x e m từ
nà o s ẽ p h ù h ợ p v ề mặ t n gữ ph á p dự a trê n c ơ s ở lự a c h ọ n từ n gữ đ ịa p hư ơn g v à c ác g ợ i ý
k hác . V à, v â n g, m ạn g lư ớ i th ầ n k in h t ốt h ơ n nh i ề u tr o ng v iệc n ày - mặc d ù c ó l ẽ nó c ó t hể b ỏ
s ót m ột s ố trư ờ n g h ợp “ c h ín h x ác v ề m ặt h ìn h t hứ c ” m à c o n ngư ờ i c ũn g c ó th ể b ỏ s ót . Nh ư ng
đ iể m q u an tr ọ n g l à t h ự c t ế r ằn g c ó m ột c ấ u tr úc c ú p há p t ổn g t h ể đ ố i v ớ i n gô n n gữ - v ớ i t ất
c ả t ín h q uy lu ậ t n g ụ ý - th e o mộ t ng h ĩa n ào đó s ẽ g i ớ i hạ n “ mứ c đ ộ” mà m ạ ng lư ớ i t hầ n k i nh
ph ả i h ọc hỏ i . V à mộ t q ua n s át qu a n tr ọn g “ g i ốn g - n hư - k h o a- học - tự - nh i ê n” l à k iế n tr úc b iế n đ ổ i
c ủa c ác m ạn g th ầ n k i n h gi ố ng n hư tr o n g C h a tG PT dư ờn g n hư c ó t h ể học t hà n h c ô n g lo ạ i c ấu
trúc c ú p h áp g i ốn g n h ư c ây l ồ ng n h au dư ờ n g như t ồ n t ạ i ( ít n hấ t l à t ro n g mộ t s ố gầ n đ ú ng)
tro n g m ọi ng ô n ng ữ c ủ a l oà i n gư ờ i .
Cú p h áp c un g c ấ p c h o c h ú n g ta mộ t l o ại r à ng b u ộc v ề n gô n n gữ . N hư n g rõ r àn g l à c ò n c ó
nh i ề u đ iề u h ơ n nữ a. M ột c â u n hư “ I nq u is it iv e e l ec tr o ns ea t b l ue t h e or ies f or f is h ” l à đú n g v ề
mặ t n gữ p há p n hư n g k hô n g p h ả i l à đ i ề u m à ngư ờ i t a thư ờ n g m o n g đ ợ i s ẽ n ó i v à s ẽ k h ôn g
đư ợc c o i là t h àn h c ô n g nế u Ch a tG PT tạ o r a nó - b ở i v ì , v ớ i ý n gh ĩ a t h ôn g t h ư ờn g c ủ a nh ữ ng
từ tro n g đ ó, v ề c ơ b ản n ó l à v ô n g hĩ a.
Như n g l iệ u c ó m ột c á c h k há i q uá t n ào đ ể n ó i n ế u mộ t c â u c ó ý n gh ĩ a? K h ôn g c ó lý t hu y ết
tổ n g t h ể tr uy ền t hố n g c ho đ i ều đ ó. N hư ng đ ó là đ i ều m à n gư ờ i t a c ó t h ể ng h ĩ C h atG PT đ ã
ng ầ m “ p h át tr i ển mộ t l ý t huy ế t c h o” s a u k h i đ ư ợc đ à o t ạo v ớ i h àn g t ỷ c â u (c ó lẽ l à c ó ý ng hĩ a )
từ we b, v .v …
Lý t h uy ế t n ày c ó t h ể s ẽ n hư th ế nà o ? C h à, c ó m ộ t g óc nh ỏ v ề c ơ b ản đ ã đ ư ợc b i ết đ ến tr on g
ha i t h iê n n i ên k ỷ , v à đ ó l à l og ic . V à c hắc c h ắ n l à ở d ạn g t am đo ạ n l uậ n m à Ar is to t le đ ã k h ám
ph á r a, l og ic v ề c ơ b ả n l à mộ t c ác h nó i r ằn g n hữ ng c â u t uâ n t h e o n hữ ng m ẫu n hấ t đ ị n h l à
h ợp lý , tro n g k hi n hữ n g c âu k h ác th ì k hô n g. Vì v ậy , c hẳ n g hạ n, t h ậ t h ợ p lý k h i nó i “T ất c ả X
đề u l à Y . Đây k h ô ng p hả i l à Y , v ì v ậy nó k h ô ng p h ả i là X” ( n hư tro ng “T ất c ả c á c l o à i c á đề u
c ó mà u x an h l a m. Đây k h ôn g ph ả i l à mà u x a nh l a m, v ì v ậy nó k h ôn g ph ả i là m ột c o n c á ”). V à
g iố n g n hư n gư ờ i t a c ó th ể t ư ởn g tư ợn g m ột c ác h k ỳ l ạ r ằ ng Ar is t ot l e đ ã k h ám p há ra l og ic
ta m đo ạ n lu ậ n bằ n g c ác h đ i th e o ( “ k iể u- h ọc - m áy ”) q u a r ất n hi ề u v í d ụ v ề t h uậ t hù n g b i ệ n, v ì
v ậy n gư ờ i ta c ũ n g c ó th ể tư ở ng tư ợ n g r ằ ng tro n g q uá tr ìn h đ à o tạ o Ch a tG PT, nó s ẽ c ó th ể
“ k há m ph á l og ic t a m đo ạ n l u ận ” b ằn g c ác h x em x ét r ất n h iề u v ă n b ả n tr ên we b , v .v …. (V à,
thự c s ự đ ú ng v ậy , tr o n g k h i n gư ờ i t a c ó t h ể mo n g đ ợi C ha tG PT tạ o ra v ăn b ản c hứ a “s uy l uậ n
c hí n h x ác ” dự a tr ê n n hữ n g t hứ n hư l og ic t a m đ oạ n l u ận , th ì đ ó l ạ i l à m ột c â u c h uy ệ n h oà n
to à n k hác s a n g lo g ic hì n h t hứ c p hứ c tạ p h ơ n - v à t ôi n g hĩ n gư ờ i t a c ó t h ể m on g đ ợ i nó th ất
bạ i ở đ ây v ì c ùn g l o ạ i lý d o k h iế n n ó t hấ t b ại tr on g v i ệc k h ớ p n g oặ c đ ơ n ) .
Như n g n g oà i v í d ụ h ẹ p v ề l og ic , c ó th ể nó i gì v ề c ác h x ây dự n g ( ho ặc nh ậ n ra) m ột c ác h c ó
hệ th ố ng v ă n b ả n t hậ m c h í c ó ý n gh ĩa h ợ p lý ? V â ng , c ó n hữ n g t hứ n hư M ad L ibs s ử dụ n g
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
“ b iể u m ẫ u c ụm t ừ ” r ất c ụ th ể. N hư n g bằ n g c á c h n ào đ ó, C h atG P T h oà n t oà n c ó m ộ t c ác h t ổn g
qu á t h ơn nh i ề u để thự c h i ện đ iề u đ ó. Và c ó l ẽ k h ôn g c ó g ì đ ể n ó i v ề c ác h thứ c nó c ó th ể đư ợc
thự c h i ện n go à i “ bằ n g c ác h n à o đ ó nó x ảy r a k h i b ạ n c ó 1 7 5 tỷ trọ n g s ố tr on g m ạn g lư ớ i t hầ n
k i nh” . Nh ư n g t ôi t hự c s ự n g h i ng ờ r ằn g c ó m ột c â u c h uy ện đ ơ n g i ả n v à m ạn h m ẽ h ơ n n h i ều .
Ý nghĩa Không gian và Quy tắc Ngữ nghĩa của Chuyển động
Ch ú ng ta đ ã t hả o lu ậ n ở tr ê n r ằ n g b ê n tr on g C h atG P T, bấ t k ỳ đ o ạ n v ă n b ả n n à o c ũ n g đ ư ợc
b iể u t h ị m ột c ác h h i ệu q u ả b ằ ng m ột mả n g s ố m à c h ú ng ta c ó t h ể c o i l à t ọ a đ ộ c ủ a m ộ t đ iể m
tro n g m ột s ố lo ạ i “ k h ô ng gi a n đ ặc tr ư ng ng ô n n gữ ”. Vì v ậy , k h i C h atG PT ti ế p tục mộ t đ o ạn
v ăn b ả n, đ i ề u n ày t ư ơ ng ứ ng v ớ i v i ệc t ì m r a q uỹ đ ạo tr o ng k hô n g g ia n đ ặc trư ng n g ôn n gữ
đó . N hư n g b ây gi ờ c h ún g ta c ó t h ể h ỏ i đi ề u gì k h iế n c ho q uỹ đ ạ o n ày tư ơ n g ứ n g v ớ i v ăn bả n
mà c h ún g t a c ho l à c ó ý ng hĩ a . V à l iệ u c ó l ẽ c ó m ột l o ại “ q uy lu ật c huy ể n đ ộ ng n gữ n g hĩ a ”
nà o đ ó x ác đ ịn h - h o ặ c í t n hấ t là hạ n c h ế - v i ệc l à m th ế nà o c ác đ iể m tr o ng k hô n g g i an đ ặc
trư n g n g ôn n gữ c ó t h ể d i c h uy ển x u n g q ua n h m à v ẫ n g iữ đư ợc “ý n gh ĩ a”?
V ậy k h ô ng g i an đ ặc t r ư ng n g ôn n gữ này tr ô ng n hư th ế nà o ? Dư ớ i đây l à m ột v í d ụ v ề c ác h
c ác từ đ ơn l ẻ ( ở đ ây l à c ác da n h từ c hu n g) c ó t hể đư ợc tr ìn h bày n ế u c h ú ng ta c h iế u mộ t
k hô n g g ia n đ ặc tr ư n g như v ậy x u ốn g 2 D:
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ú ng t a đ ã t h ấy m ột v í d ụ k h ác ở t rê n dự a tr ê n c ác từ đạ i di ệ n c ho thự c v ật v à đ ộn g v ật .
Như n g v ấ n đề tr on g c ả ha i tr ư ờ ng h ợ p l à “ c á c từ g i ố ng n ha u v ề m ặ t n gữ ng h ĩa ” đư ợc đặ t gầ n
đó .
Mộ t v í d ụ k h ác , đ ây l à c ác h c ác từ tư ơn g ứ n g v ớ i c ác ph ầ n k h ác nh au c ủa b à i p há t b i ểu đ ư ợc
trì nh bày :
Dĩ n h i ên , m ộ t từ n h ất đ ịn h n ó i c h u n g k h ôn g c h ỉ c ó “ mộ t ý n gh ĩ a” ( ho ặc nh ất th i ết ph ả i t ư ơ ng
ứ ng v ớ i c h ỉ m ộ t ph ầ n c ủa bà i p h át bi ể u). Và b ằ ng c ác h x em x ét c ác h c ác c â u c hứ a m ột từ
đư ợc s ắp x ếp tr on g k h ôn g g i an đ ặc trư ng , n g ư ờ i ta t hư ờ ng c ó t h ể “ ph â n b iệ t” c ác n gh ĩa k hác
nh a u - n hư tr o ng v í dụ ở đây c ho từ “ c r an e” (c h im hay m áy ?):
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Th ật tuy ệ t, v ì v ậy í t n h ất c ũ ng h ợ p lý k hi c h ú ng t a c ó t hể c o i k h ôn g g ia n đ ặc trư n g n ày g i ốn g
như v i ệc đặ t “ c ác từ g ần n gh ĩ a” ở g ầ n k hô n g g i a n n ày . N hư ng c h ún g ta c ó th ể x ác đ ị n h l oạ i
c ấu tr úc b ổ s un g n ào t r on g k h ôn g gi a n này ? Ví d ụ, c ó m ột s ố lo ạ i k há i n iệ m v ề “v ận c h u y ển
s on g s o ng” s ẽ p h ản á n h “ độ p h ẳn g” tr on g k h ôn g g i an h ay k hô n g ? Mộ t c ác h để g i ả i q uy ết v ấ n
đề đó là x e m x é t c ác p hé p l o ạ i s uy :
V à, v ân g, n gay c ả k h i c hú n g t a c h i ế u x u ốn g 2D , t hư ờ ng c ó í t n hấ t mộ t “ g ợi ý v ề đ ộ ph ẳ n g ” ,
mặc dù n ó c h ắc c h ắ n k hô n g đư ợc n hì n t hấy mộ t c ác h p hổ bi ế n.
V ậy c òn quỹ đ ạ o th ì s ao ? C hú n g ta c ó t h ể x em quỹ đ ạ o m à l ờ i n h ắc c h o C h atG P T tu â n th e o
tro n g k h ô n g g i a n đ ặc tr ư n g - v à s a u đó c h ú ng t a c ó t h ể t h ấy C h at G PT t iế p t ục đ i ề u đ ó như
th ế n ào :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Ch ắc c h ắ n k h ô n g c ó đ ị nh l uậ t c h uy ển đ ộn g “ h iể n n h i ên v ề mặ t h ì n h h ọc ” ở đây . Và đ iề u đó
k hô n g c ó gì đá n g n g ạ c n h i ên , c h ú ng ta h oà n t oà n mo n g đ ợ i đ ây l à m ột c â u c h uy ệ n phứ c t ạ p
nh i ề u h ơn đá n g k ể . V à, v í d ụ , k h ôn g rõ r àn g l à n gay c ả k h i c ó m ột “ quy lu ật ng ữ ng h ĩa c ủ a
c huy ể n đ ộ ng ” đư ợc tì m t h ấy , th ì lo ạ i nh ú ng nà o ( h oặc , tr ê n t hự c tế , “b i ế n s ố” n à o) s ẽ đ ư ợc
nê u m ột c ác h tự nh i ê n n h ất .
Tro ng hì n h tr ên , c h ún g t ô i đ an g h i ể n t hị m ột s ố bư ớc tr o ng “ q uỹ đ ạ o” - ở mỗ i bư ớc , c hú n g t ôi
c họ n từ mà C h atG P T c ho là c ó k h ả n ăn g x ảy ra n hấ t (trư ờ n g h ợ p “ n h iệ t đ ộ b ằn g k h ô ng” (z err o
te m per a tur e) ) . N hư ng c hú n g t a c ũ n g c ó t hể hỏ i n hữ n g t ừ n à o c ó t hể “x u ất h iệ n t i ế p t he o ” v ớ i
x ác s u ất n hư t hế nà o t ạ i mộ t t h ời đi ể m n hấ t đ ịn h:
Nhữ n g gì c hú n g ta nh ì n th ấy tr o ng tr ư ờ n g h ợ p n ày l à c ó m ột “ c h iếc qu ạ t” b ao g ồ m c ác từ ngữ
c ó x ác - s u ất- c ao dư ờ n g n hư đ i t h eo mộ t hư ớ ng ít n h i ều x ác đ ị nh tr on g k h ô ng g ia n đ ặc tr ư ng .
Đi ề u gì x ảy r a n ếu c h ú ng t a đ i x a h ơ n ? Đ ây l à nhữ n g “ c á i qu ạt” li ê n t i ế p x uấ t hi ệ n k h i c h ún g
ta “đ i t h eo ” quỹ đ ạ o :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Dư ới đây là tr ì nh b ày d ạ n g 3D , tr ả i qu a t ổn g c ộ n g 40 bư ớc :
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
V à, v â n g, đi ề u n ày tr ô ng c ó v ẻ n hư là mộ t m ớ h ỗ n đ ộn - v à k h ôn g c ó t ác d ụn g g ì đ ể đ ặc b iệ t
k huy ế n k h íc h ý tư ở n g r ằn g ngư ờ i t a c ó t hể mo n g đ ợ i s ẽ x ác đ ị n h đư ợc “c ác đ ịn h lu ật c h uy ể n
độ n g g iố n g - n hư - t oá n- h ọc - v ậ t- lý ” b ằn g c ác h n gh i ê n c ứ u thự c ng h iệ m “n hữ ng g ì Ch a tG PT đ an g
l àm ở bê n tr o ng” . N h ư ng c ó l ẽ c hú n g ta c h ỉ đ an g n hì n “s a i b i ến ” ( ho ặc s a i h ệ tọ a đ ộ) v à g i á
như c h ú ng ta n hì n đú ng , c hú n g t a s ẽ t hấy n gay C ha tG PT đa n g là m mộ t c á i gì đ ó “ đơ n- g iả nv ề- t o án- h ọc - v ật- lý ” nh ư t h eo d õi tr ắc đ ị a. N hư n g hi ệ n t ạ i, c hú n g ta v ẫn c hư a s ẵ n s à n g đ ể
“ g iả i m ã th e o k i nh n g hi ệm ” từ “ hà n h v i bê n tr on g” c ủ a nó mà C ha tG PT đ ã “k h ám p h á” v ề c ác h
thứ c n g ô n ng ữ c on ng ư ờ i đư ợc “ k ết h ợ p l ạ i v ớ i n ha u” n hư t hế nà o .
Ngữ pháp Ngữ nghĩa và Sức mạnh của Ngôn ngữ Máy tính
Ch ú ng t a c ầ n gì đ ể t ạ o r a “ n gô n n gữ c ó ý ng h ĩa c ủa c on ngư ờ i” ? Tr on g q u á k hứ , c h ún g t a c ó
th ể c h o rằ n g n ó k h ô ng t h ể t hi ế u đ i b ộ nã o c on ng ư ời . N hư ng bâ y g i ờ c h ún g t a b i ết r ằ ng n ó
c ó th ể đư ợc t hự c h iệ n k h á tố t b ở i m ạn g lư ớ i t hầ n k i n h c ủa C h atG PT . T uy n h iê n, c ó lẽ đ ó l à
tấ t c ả n hữ ng gì c h ú ng ta c ó th ể l à m, v à s ẽ k hô n g c ó g ì đ ơ n g iả n h ơ n - ho ặc d ễ h i ểu h ơn đ ố i
v ớ i c o n ngư ờ i - s ẽ h i ệu q uả . N hư ng s ự ng h i n g ờ m ạ nh m ẽ c ủ a tô i là s ự th à nh c ô ng c ủa
Ch at G P T ng ầ m ti ế t lộ mộ t s ự t h ật “ k h oa h ọc ” q ua n tr ọn g: r ằn g n gô n n gữ c on n gư ờ i c ó ý n g h ĩ a
thự c s ự c ó nh i ề u c ấ u t r úc v à đ ơ n g i ả n h ơ n n hữ n g g ì c h ú ng t a từ n g b i ết - v à c uố i c ù n g c ó t hể
c ó n hữ n g q uy tắc k h á đ ơn g i ản đ ể mô tả l à m th ế nà o mà n g ôn n gữ nh ư v ậy c ó th ể đư ợc đặ t
l ại v ớ i n ha u.
Như c h ú n g t ô i đ ã đ ề c ập ở tr ên , n gữ ph á p c ú p há p đư a r a c ác q uy t ắc v ề c ác h c ác từ tư ơ ng
ứ ng v ớ i nh ữ n g th ứ nh ư c ác p h ần k h ác n ha u c ủ a l ờ i n ói c ó t h ể đư ợc k ế t h ợp v ới nh a u t r on g
ng ô n n gữ c ủ a c o n ngư ờ i n hư t h ế n ào . N hư n g đ ể g i ả i q uy ế t ý n gh ĩ a, c hú n g t a c ầ n p hả i đ i x a
h ơn t hế . V à mộ t c ác h để t hự c h iệ n đ iề u n ày l à s uy n g hĩ v ề k h ôn g c h ỉ n gữ p há p c ú p há p c ho
ng ô n n gữ , m à c ò n v ề mặ t n gữ n gh ĩ a.
Vì mục đ íc h c ủa c ú p há p , c hú n g ta x ác đ ị n h nh ữ n g t hứ nh ư da n h từ v à đ ộn g từ . N hư ng v ì
mục đ íc h ng ữ n g hĩ a, c hú n g t a c ầ n “ ph â n c ấ p t ố t h ơ n ” . V ì v ậy , v í d ụ , c h ún g ta c ó t h ể x ác đ ị nh
k há i n i ệ m “ di c h uy ể n” v à k há i n i ệ m “ đố i tư ợ n g” để “ duy tr ì da n h t í n h c ủa n ó đ ộc l ập v ới v ị trí” .
Có v ô s ố v í d ụ c ụ t hể v ề từ n g “ k há i n iệ m n g ữ n gh ĩa ” n ày . N hư ng v ớ i mục đ íc h n gữ ph á p ngữ
ng h ĩa c ủ a c h ú ng t a, c hú n g t a s ẽ c hỉ c ó m ột s ố lo ạ i quy t ắc c h u ng v ề c ơ bả n c ho rằ n g “ đố i
tư ợn g” c ó th ể “ d i c h uy ển” . C ó r ấ t n h i ều đ iề u đ ể nó i v ề c ác h t hứ c m à tấ t c ả nh ữ n g đ i ề u này
c ó th ể h oạ t đ ộn g ( m ột s ố đ iề u tô i đ ã n ó i t rư ớ c đ ây ). N hư ng t ô i s ẽ b ằn g l ò ng ở đây c h ỉ v ới mộ t
v à i nh ậ n x ét c hỉ r a m ộ t s ố c o n đư ờn g t i ềm n ăn g p hí a trư ớc .
Đi ề u đá n g nó i l à n gay c ả k hi m ộ t c â u h o àn t oà n ổ n t h eo n gữ p há p ngữ n g hĩ a, đ i ề u đ ó k h ôn g
c ó ng h ĩa là n ó đ ã đư ợ c h i ện t hự c h óa ( ho ặc th ậ m c hí c ó t hể đư ợc h iệ n th ự c hó a) tr on g t hự c
tế . “ Co n v o i d u h àn h t ớ i M ặt tr ă ng” c h ắc c h ắn s ẽ “v ư ợ t qu a” n gữ ph á p n gữ ng h ĩa c ủ a c hú n g
ta , như n g nó c h ắc c h ắ n c hư a đư ợc h i ệ n t hự c h óa (í t nh ất là) tr on g t h ế g i ới t hự c c ủ a c h ún g
ta - m ặc d ù đó là mộ t t r ò c h ơ i h oà n t oà n c ô n g b ằn g c h o m ột t h ế g i ớ i hư c ấ u.
K hi c hú n g ta bắ t đ ầu n ó i v ề “ n gữ p h áp n gữ n gh ĩ a”, c h ú ng t a s ẽ nh a nh c hó n g đ ặt c â u h ỏ i “ Có
gì b ên dư ớ i n ó? ” . Nó đa n g gi ả đ ị nh v ề “ m ô hì n h t h ế g i ớ i” n ào ? M ột n gữ ph á p c ú ph á p t hự c
s ự c h ỉ l à v ề v i ệc x ây d ự ng n gô n n gữ từ ba o g ồm c ác từ . Nh ư n g m ộ t ngữ p há p n gữ n g hĩ a n hấ t
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
th i ết p hả i tư ơn g tác v ớ i mộ t s ố l o ạ i “ m ô hì n h t h ế g i ớ i” - thứ đ ó ng v a i tr ò như m ột “ b ộ x ư ơ ng”
trê n đ ó n gô n n gữ đư ợ c t ạo r a từ c ác từ t hự c t ế c ó th ể đư ợc x ếp l ớ p.
Ch o đ ến t h ờ i g i a n gầ n đây , c hú n g ta c ó t h ể t ư ởn g tư ợ ng rằ n g n gô n n gữ (c o n ngư ờ i) s ẽ l à
c ác h c h u ng d uy nh ất đ ể mô t ả “ mô h ìn h th ế g i ới” c ủ a c hú n g t a . C á c h đây v à i th ế k ỷ , đ ã t hự c
s ự b ắ t đầ u c ó s ự h ì nh thứ c hó a c ác lo ạ i s ự v ật c ụ t h ể, đặc bi ệ t dự a tr ê n to á n h ọc . N hư ng bây
g i ờ c ó m ột c ác h t iế p c ận c hí nh t hứ c h ó a tổ n g q uá t h ơ n nh i ề u: n g ô n n gữ m áy tí nh .
V à, v ân g, đó l à dự án l ớ n c ủ a t ôi tr o n g s u ốt h ơn bố n t h ập k ỷ ( h iệ n đư ợc t hể h iệ n b ằ n g N gô n
ngữ Wo l fra m) : p h át tr i ển m ột b i ể u tư ợ ng tư ợ ng trư n g c h ín h x ác c ó th ể nó i c à ng r ộ ng c à n g t ố t
v ề m ọ i t hứ tr ên th ế gi ớ i, c ũn g như trừ u tư ợ ng hó a nhữ n g t hứ m à c hú n g t ô i q ua n t â m. V à v ì
v ậy , v í d ụ, c h ún g t a đã c ó đư ợc c ác b i ể u tư ợ ng tư ợ ng trư n g c ho c á c t h àn h ph ố , p hâ n tử , hì n h
ản h v à m ạn g lư ới th ầ n k in h, v à c h ú ng t a c ó k i ến t hứ c đư ợc tíc h- h ợ p v ề c ác h t í nh t o án n h ữ ng
thứ đ ó .
V à, s au nh i ề u t hậ p k ỷ l àm v i ệc , c hú n g t ô i đ ã ba o ph ủ r ất n h i ều l ĩn h v ự c t h eo c ác h n ày . Nh ư ng
tro n g q u á k hứ , c h ú ng tô i c hư a x ử lý m ột c á c h c ụ th ể v ề “d i ễ n n g ôn h àn g ng ày ” . Tro n g c âu
“ Tô i đã m ua h a i c â n t áo” , c hú n g t a c ó t h ể d ễ d à ng b i ểu d i ễn (v à t hự c hi ệ n di n h d ư ỡn g c ũn g
như c ác t í nh t oá n k h á c tr ên) “ h a i c â n tá o”. Như n g c hú n g tô i c hư a ( v ẫ n c hư a) c ó b iể u tư ợ ng
tư ợn g trư n g c ho “ T ô i đã mu a” .
Tất c ả đ ề u l iê n q ua n đế n ý tư ở n g v ề n gữ p há p n gữ ng h ĩa - v à m ục t i ê u c ó mộ t “ b ộ c ô n g c ụ
x ây d ự n g” m an g t í nh b i ểu tư ợ ng c h un g c ho c ác k h á i n iệ m, t hứ s ẽ c un g c ấp c h o c hú n g t a c ác
quy tắc v ề c á i g ì c ó t h ể p hù h ợ p v ớ i c ái gì , v à d o đ ó, c ho “ d òn g c h ảy ” c ủ a n hữ ng gì c hú n g t a
c ó th ể c h uy ển đ ổ i s a n g n gô n n gữ c ủ a c o n n gư ờ i.
Như n g g iả s ử c h ú ng t a đ ã c ó đư ợc “n g ô n n gữ d i ễn n g ô n tư ợn g tr ư ng ” này . C hú n g ta s ẽ l à m
gì v ới nó ? C hú n g ta c ó th ể b ắt đầ u l à m nh ữ ng v iệc như t ạ o r a “ v ă n b ản c ó ý n gh ĩ a c ục bộ” .
Như n g c uố i c ù ng , c h ú ng t a c ó t h ể mu ố n c ó n h iề u k ết q u ả “c ó ý ng h ĩ a t o àn t h ể” h ơn - c ó n g hĩ a
l à “t ín h to á n” nh i ều h ơ n v ề n hữ ng g ì t hự c s ự c ó t h ể t ồ n t ạ i ho ặc x ảy ra t rê n th ế g i ới (h o ặc c ó
l ẽ tro n g m ột t hế gi ớ i h ư c ấ u n h ất q u án n à o đ ó).
Ng ay bây g i ờ t r o n g N g ôn n gữ W ol fr a m, c hú n g t ô i đa n g c ó m ột lư ợ ng l ớ n k i ến th ứ c t ín h t oá n
đư ợc t íc h h ợp s ẵ n v ề r ất nh i ề u t hứ . Như n g để c ó m ộ t n g ôn ng ữ d i ễn n gô n tư ợ n g trư n g h oà n
c h ỉn h, c hú n g t a p hả i x ây dự n g th ê m c ác “ ph ép tí nh” v ề n hữ ng s ự v ật c hu n g trê n t h ế g i ớ i: n ế u
mộ t đ ố i tư ợn g d i c h uy ển từ A đ ến B v à từ B đế n C , th ì n ó c ũn g d i c huy ể n từ A đ ế n C, v . v …
V ớ i m ộ t n g ôn n gữ d i ễ n n g ôn tư ợ ng trư ng , c hú n g t a c ó t hể s ử d ụn g n ó để tạ o r a “c ác t u y ên
bố đ ộc l ậ p”. N hư ng c hú n g ta c ũ n g c ó t h ể s ử d ụ ng n ó đ ể đặ t c âu h ỏ i v ề th ế g i ớ i, k i ểu
“ W o lfr a m |Al p ha s ty l e” . Ho ặc c h ún g ta c ó th ể s ử d ụn g nó đ ể nó i n hữ ng t hứ mà c h ú ng t a “ m uố n
l àm như v ậy ” , c ó l ẽ l à bằ n g m ột s ố c ơ c hế tá c đ ộ ng bê n n g o ài . H oặ c c h ú ng ta c ó th ể s ử d ụn g
nó đ ể đư a r a c ác k h ẳ ng đ ị nh - c ó lẽ v ề t h ế g i ới th ự c , ho ặc c ó lẽ v ề m ộ t t hế g i ớ i c ụ th ể nà o
đó mà c h ú n g t a đ a ng x em x ét , hư c ấ u h oặc c ác h nà o đ ó k h ác .
Ng ô n ngữ c ủa c o n n g ư ờ i v ề c ơ bả n l à k h ôn g c hí n h x ác , đ ặc b i ệt l à v ì nó k h ô ng đ ư ợc “ gắ n
k ết” v ớ i mộ t tr i ển k h a i t í nh to á n c ụ th ể v à ý ng hĩ a c ủa n ó v ề c ơ b ản c h ỉ đư ợc x ác đị n h b ở i
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
mộ t “ h ợp đồ n g x ã h ộ i” gi ữ a nh ữ n g ngư ờ i dù ng . N hư ng n gô n ngữ máy tí n h, v ề b ả n c h ất , c ó
mộ t đ ộ c hí n h x ác c ơ bả n n h ất đ ị nh - b ở i v ì c u ố i c ù ng t hì nhữ n g gì n ó c h ỉ đ ị nh l uô n c ó t hể
đư ợc “ thự c t h i m ột c ác h r õ r àn g tr ên m áy tí n h”. N gô n n gữ c ủ a c on ngư ờ i t hư ờ ng c ó t hể đ i x a
r a k h ỏi s ự m ơ h ồ n h ất đ ịn h. ( K hi c hú n g t a n ó i “ h à nh t i nh ” , n ó c ó b ao g ồ m c ác n go ạ i h àn h t i nh
hay k h ôn g, v .v … ?) N h ư ng tr on g n g ôn n gữ m áy tí n h, c hú n g t a p h ả i c hí n h x ác v à r õ r àn g v ề t ất
c ả n hữ n g đ i ểm k hác bi ệt m à c h ú ng t a đ a ng t ạo r a.
V iệc t ậ n d ụn g n gô n n gữ th ô ng t hư ờ n g c ủa c on ngư ờ i đ ể t ạo n ê n n hữ ng c á i t ê n bằ n g n gô n
ngữ m áy tí n h t hư ờ ng r ất t h u ận t i ệ n. N hư n g ý n g hĩ a m à c hú n g c ó tro n g n gô n ngữ m áy t ín h
nh ấ t t hi ế t b ắt bu ộc p h ả i c h ín h x ác - v à c ó t h ể h o ặc k h ôn g t h ể b a o hà m mộ t s ố hà m ý c ụ th ể
tro n g c ác h s ử d ụ ng ng ôn ngữ t h ôn g t hư ờ ng c ủa c on n gư ờ i .
Là m t h ế n à o đ ể tì m r a “ b ả n t hể lu ậ n” c ơ b ản ph ù h ợp c ho m ột n gô n n gữ d iễ n n g ôn tư ợ ng
trư n g c h u ng ? C h à, n ó k h ô ng hề dễ đâ u . Đó c ó lẽ l à lý d o t ạ i s a o n hữ ng đ iề u n ày đ ã đ ư ợc
thự c h i ệ n r ất ít k ể t ừ nhữ n g k h ở i đầ u n g uy ên t h ủy mà Ar is t ot l e đ ã thự c h i ệ n h ơn h a i t h iê n
n iê n k ỷ trư ớc . Như n g đ iề u t hự c s ự hữ u íc h l à n gày nay c hú n g ta đã b iế t r ấ t n hi ề u v ề c ác h
s uy n g hĩ v ề t hế g i ớ i m ột c ác h c ó t í nh to á n (v à s ẽ k hô n g h ạ i gì nế u c ó m ột “s i ê u h ìn h học c ơ
bả n” từ Dự á n Vậ t lý c ủa c hú n g ta v à ý tư ở ng v ề r u li a d – k h ô ng b i ết từ n ày c ó n g h ĩa gì –
ng ư ờ i d ịc h) .
Như n g tấ t c ả n hữ n g đ i ều n ày c ó ý n g hĩ a g ì tro n g b ối c ản h C h atG PT ? Từ q uá trì nh đà o t ạo
c ủa m ì nh , Ch at G PT đ ã “ gh é p l ạ i” mộ t c ác h h i ệ u q uả m ộ t s ố lư ợ n g nh ấ t đị n h (k h á ấn tư ợ ng)
v ề ng ữ ph á p n gữ ng h ĩ a. N hư ng c h í nh s ự th à nh c ô n g c ủ a nó c h o c h ún g t a lý d o để ng hĩ r ằn g
v i ệc x ây dự ng mộ t thứ g ì đó ho à n th i ện h ơn ở d ạn g n g ôn ngữ t ín h to á n l à k hả t h i. Và , k h ôn g
g iố n g n hư n hữ n g gì c h ún g tô i đ ã t ìm r a c ho đ ến n ay v ề c ác b ộ p h ận bê n tro n g c ủ a Ch a tG PT ,
c hú n g t a ô i c ó t hể m o ng đ ợ i th i ết k ế ng ô n n gữ máy tí n h s ao c h o t r ở n ên d ễ h i ể u đ ố i v ớ i c on
ngư ờ i .
K hi c hú n g t a n ó i v ề n gữ p há p n gữ ng h ĩa , c hú n g ta c ó t h ể r út ra mộ t p hé p l o ại s uy v ớ i l og ic
ta m đ o ạn lu ậ n. B an đ ầu , l o g i c ta m đ o ạn l uậ n v ề c ơ b ản là mộ t t ậ p h ợ p c ác q uy t ắc v ề c ác
ph á t b i ể u đư ợc di ễ n đ ạt b ằn g n gô n n gữ c ủa c on n gư ờ i. N hư ng (v â ng , ha i t h iê n n iê n k ỷ s au)
k h i lo g ic h ìn h t hứ c đư ợc p há t tr iể n , c ác c ấ u trúc c ơ bả n b a n đầ u c ủa lo g ic ta m đ o ạn lu ậ n g i ờ
đây c ó t hể đư ợ c s ử d ụ ng đ ể x ây d ự n g n hữ n g “t h áp hì n h t hứ c ” k h ổ n g l ồ b a o g ồ m, v í d ụ, h oạ t
độ n g c ủ a mạc h k ỹ t h u ật s ố h i ệ n đ ạ i. V à v ì v ậy , c hú n g t a c ó th ể m on g đ ợi , n ó s ẽ x ảy r a v ớ i
ngữ ph á p n gữ n gh ĩ a t ổn g q u át h ơ n. Lúc đầ u , nó c hỉ c ó th ể x ử lý c ác m ẫu đ ơn g i ả n, đư ợ c t hể
h iệ n dư ớ i d ạ ng v ăn bả n. N hư ng mộ t k h i t oà n b ộ k h u ôn k h ổ n g ôn n gữ tí n h to á n c ủ a n ó đ ư ợc
x ây dự n g, c h ún g ta c ó th ể mo n g đ ợ i r ằ ng n ó s ẽ c ó t hể đư ợc s ử dụ ng đ ể d ự n g lê n nh ữ n g tò a
th á p c ao ba o g ồ m c ác “ l og ic n gữ n g hĩ a t ổn g qu á t”, c h o p h ép c hú n g ta là m v i ệc m ộ t c ác h c hí n h
x ác v à c hí n h t hứ c v ới t ất c ả n hữ ng t hứ m à c h ún g t a c ó v ốn c hư a b a o g i ờ c ó t h ể ti ế p c ậ n đ ư ợc
trư ớc đây , n go ạ i tr ừ c h ỉ ở “ t ần g tr ệt” t hô n g q ua n g ôn ngữ c ủ a c o n n gư ờ i, v ớ i t ất c ả s ự m ơ h ồ
c ủa nó .
Ch ú ng t a c ó th ể c o i v i ệc x ây d ự n g n g ôn ng ữ máy tí nh - v à n gữ p h á p n gữ n g hĩ a - n hư t hể h iệ n
mộ t k i ể u n én c uố i c ùn g tr on g v i ệc tr ìn h b ày c ác s ự v ật . B ở i v ì nó c ho ph é p c h ún g t a n ó i v ề
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
bả n c h ất c ủ a n hữ ng g ì c ó t hể , c h ẳn g h ạn n h ư k h ô ng c ầ n x ử lý tấ t c ả “c ác lư ợ t d iễ n đ ạt c ủa
c ụm từ ” t ồ n tạ i tr on g n gô n n gữ c o n ngư ờ i b ì n h thư ờ n g. V à c h ú ng t a c ó th ể c o i s ứ c m ạ nh t u y ệt
v ờ i c ủ a C ha tG PT là m ột t hứ g ì đ ó h ơ i g i ố ng nh a u: b ởi v ì th e o m ột ng h ĩa nà o đ ó, nó c ũn g đ ã
“ đà o s âu ” đ ế n mứ c c ó t h ể “ k ết h ợp n gô n ng ữ l ại v ớ i n ha u t h e o m ột c ác h c ó ý n gh ĩa v ề mặ t
ngữ ng h ĩa” mà k h ô ng c ần qu a n tâ m đ ế n c ác lư ợt k há c n h a u c ó th ể c ó c ủ a c ụm t ừ .
V ậy đ i ề u gì s ẽ x ảy r a nế u c h ún g ta á p dụ n g Ch at G P T c ho n gô n n g ữ tí n h t o án c ơ b ả n? N gô n
ngữ m áy tí n h c ó t hể mô t ả nhữ n g gì c ó t h ể. Nh ư n g nh ữ n g gì v ẫ n c ó t hể đư ợc t hê m v ào l à
c ảm g iác v ề “ n hữ ng gì p h ổ b i ến” - v í dụ n hư d ự a tr ê n v i ệc đ ọc t ất c ả n ộ i d un g đ ó tr ê n w eb .
Như n g s au đó - ở b ên dư ớ i - ho ạt đ ộ n g bằ n g ng ô n n gữ đ iệ n t oá n c ó ng h ĩa là t hứ gì đó như
Ch at G P T c ó quy ề n ti ế p c ận c ơ bả n v à n gay l ậ p tứ c v à o s ố lư ợ n g c ô ng c ụ c u ố i c ù ng đ ể s ử
dụ n g c ác tí n h to á n c ó k h ả n ăn g k h ô ng t h ể r út g ọ n. Và đi ề u đ ó l à m c h o n ó tr ở th à nh m ột h ệ
th ố ng k h ô ng c h ỉ c ó th ể “ t ạo r a v ă n b ản h ợ p l ý ”, m à c òn c ó th ể m o n g đ ợ i tì m ra bấ t c ứ đi ề u gì
c ó t hể tì m r a v ề v i ệc l i ệu v ăn b ản đ ó c ó thự c s ự đư a r a nhữ n g t u y ên b ố “đ ú ng” v ề t h ế g i ới
hay bấ t c ứ đi ề u gì nó đư ợc c h o l à đ a n g n ó i v ề h ay k h ô n g.
Vậy … Ch atG PT Đ ang Làm g ì và T ại sao N ó Ho ạt động đ ượ c?
K há i n i ệm c ơ bả n v ề Ch at G P T ở m ột mứ c đ ộ nà o đ ó k há đ ơ n g iả n . Bắ t đầ u từ m ột m ẫ u v ăn
bả n k hổ n g l ồ d o c on - n gư ờ i- t ạ o- r a từ w e b, s á c h, v .v … S au đó h uấ n l uy ệ n m ạ n g lư ớ i t h ần k i nh
để t ạ o v ăn b ả n “ như t hế n ày ” . V à đặc b i ệt , l àm c h o n ó c ó th ể b ắt đầ u từ m ột “ d ấ u nh ắc ” v à
s au đó t i ếp t ục v ới v ă n b ản “ g i ố ng như nhữ ng gì n ó đ ã đư ợc đ à o tạ o ” .
Như c h ú n g t a đ ã t hấy , mạ n g lư ớ i t hầ n k i n h t hự c tế tr o ng C h atG PT đư ợc t ạ o th à nh từ c ác
ph ầ n tử r ấ t đ ơ n g iả n - mặc dù c ó hà n g tỷ p hầ n tử t r on g s ố đ ó . V à h oạ t đ ộn g c ơ b ản c ủ a m ạn g
lư ớ i t hầ n k i nh c ũn g r ấ t đ ơ n g i ản , v ề c ơ bả n ba o gồ m v iệc truy ề n đ ầu v à o b ắt ng u ồn từ v ăn
bả n mà n ó đư ợc t ạ o r a c h o đế n na y “m ộ t l ầ n q u a c ác p h ần tử c ủa nó” (k h ô ng c ó bấ t k ỳ v òn g
l ặp n à o, v .v ….) c ho m ỗ i từ m ớ i ( h oặc mộ t p hầ n c ủ a từ đ ó) ) mà n ó tạ o ra .
Như n g đ i ều đá n g c h ú ý - v à k há bấ t n g ờ - l à q u á tr ìn h n ày c ó th ể t ạo r a v ă n b ả n t hà n h c ôn g
“ g iố n g n hư ” nhữ n g g ì c ó tr ên w eb , tr on g s ác h, v .v … V à n ó k h ô ng c h ỉ l à n g ôn n gữ c o n ng ư ờ i
mạc h l ạc , n ó c òn “ n ó i n hữ n g đ iề u” “ l à m t h e o l ờ i n h ắc c ủa n ó” b ằ ng c ác h s ử d ụn g n ộ i du n g
mà n ó “đ ã đọc ” . Kh ô n g p h ải l úc n à o n ó c ũn g n ó i n hữ ng đ i ều “c ó ý ng hĩ a t rê n t o àn th ể” ( ho ặc
tư ơn g ứ n g v ớ i c ác tí n h to á n c hí nh x ác ) - b ở i v ì (c h ẳn g h ạn n hư k h ôn g c ầ n truy c ậ p v à o “ s i êu
nă n g lự c t ín h to á n” c ủ a W o lfr a m | Al p ha ), n ó c h ỉ n ó i n hữ ng đi ề u “ n gh e c ó v ẻ đ ú ng” dự a t rên
nhữ n g t hứ “ n gh e g i ốn g n hư ” đ ã c ó tr on g t ài l iệ u đ à o tạ o c ủ a n ó.
Kỹ t h uậ t c ụ t hể c ủa C ha tG PT đã k h i ến c h o nó tr ở n ê n k h á hấ p dẫ n. Như n g c u ố i c ù n g (í t nh ất
l à c ho đế n k h i n ó c ó t h ể s ử dụ n g c ác c ô ng c ụ b ê n ng o à i) Ch a tG PT “ c h ỉ đ ơn t h uầ n” r út ra mộ t
s ố “ l u ồn g v ăn bả n mạc h l ạc ” từ “ s ố li ệ u t hố n g k ê c ủa trí t u ệ t hô n g thư ờ n g” m à n ó đã t íc h lũy
đư ợc . N hư n g th ật đ á n g k in h ng ạc k h i k ế t qu ả g i ố ng - n hư - c on- n gư ờ i. V à nh ư t ô i đ ã th ả o l uậ n ,
đ iề u n ày g ợi ý mộ t đ i ều í t nh ất là r ấ t q ua n trọ n g v ề mặ t k ho a h ọ c : r ằn g n gô n n gữ c ủa c o n
ngư ờ i (v à c ác k iể u t ư duy đ ằn g s au n ó) bằ n g c ác h n ào đ ó đ ơ n g iả n h ơn v à c ó c ấ u t rúc “ g i ốn g
l uậ t” h ơ n c h ún g t a n gh ĩ. C ha tG PT đ ã n g ầ m p há t h i ện r a n ó. N hư ng c hú n g ta c ó k h ả n ăn g ph ơ i
bày nó m ộ t c ác h r õ r à ng , v ớ i n gữ p h áp ngữ ng h ĩa , n gô n n gữ tí n h t oá n , v .v …
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com
Nhữ n g g ì C h atG PT th ự c h iệ n tr o ng v i ệc t ạ o v ăn b ản v ô c ù n g ấ n t ư ợ ng - v à k ết qu ả t hư ờ ng
r ất g i ốn g v ớ i n hữ n g g ì c o n n gư ờ i c h ú n g t a s ẽ t ạ o r a. V ậy p hả i c h ăn g đ iề u n ày c ó n g hĩ a l à
Ch at G P T đa n g ho ạt đ ộ ng n hư m ột b ộ nã o ? C ấu tr úc m ạn g lư ớ i th ầ n k i nh n h ân t ạo c ơ bả n c ủa
nó c u ố i c ù ng đư ợc m ô hì n h h óa dự a tr ên s ự lý tư ở ng h ó a c ủa b ộ nã o . Và c ó v ẻ n hư k h i c o n
ngư ờ i c h ún g t a t ạ o r a ng ô n n gữ , n h iề u k h í a c ạn h c ủa nh ữ n g g ì đ a ng d iễ n r a k h á g i ố ng n ha u .
K hi n ó i đ ến đ à o tạ o ( N G H Ĩ A L À h ọc ) , “p h ần c ứ ng ” k hác n h au c ủ a b ộ nã o v à c ủ a c ác m áy tí nh
h iệ n tạ i (c ũ ng n hư , c ó l ẽ, m ột s ố ý tư ở n g t h uậ t to á n c h ư a đư ợc p há t tri ể n) b uộc C ha tG PT
ph ả i s ử d ụn g m ột c h iế n lư ợc c ó t hể k h á k hác b iệ t (v à t h eo m ột s ố c ác h ít h i ệu q u ả h ơ n n h i ều )
h ơn bộ nã o . V à c ò n m ột đi ề u nữ a: k hô n g g i ốn g n hư ng ay c ả tr o n g tí n h to á n t he o t h uậ t to á n
th ô ng t hư ờ ng , Ch a tG P T k h ô ng “ c ó v òn g l ặ p” ho ặc “t ín h t oá n l ạ i dữ l i ệu” b ê n tro n g n ó. Và đ i ều
đó c h ắc c h ắ n s ẽ hạ n c hế k h ả n ă ng tí nh to á n c ủa nó - n gay c ả đố i v ớ i c ác m áy t ín h hi ệ n tạ i ,
như n g c h ắc c h ắn là đ ố i v ớ i b ộ n ã o.
K hô n g r õ là m t h ế n ào để c ó t hể “ k hắc p hục đ i ều đó” mà v ẫ n d uy trì k hả nă n g đ à o tạ o h ệ t h ốn g
v ớ i h i ệ u q u ả h ợ p lý . N hư n g l àm n hư v ậy c ó l ẽ s ẽ c ho p hé p C h atG P T tro n g tư ơ n g l a i là m đ ư ợc
nh i ề u “v i ệc g i ốn g - như - bộ- n ã o” h ơn nữ a. Tấ t nh i ê n, c ó r ất n h i ều t hứ m à b ộ n ão k hô n g l à m tố t
l ắm - đặc b iệ t l à li ê n qu a n đ ế n s ố lư ợn g t ín h t oá n t ố i g i ản . Và đố i v ớ i n hữ ng t hứ này , c ả b ộ
nã o v à nh ữ n g t hứ n hư C h atG PT đề u p h ả i tì m k i ế m “c ác c ô n g c ụ b ên ng o à i” - nh ư Ng ô n ngữ
W o lfr a m.
Như n g h i ệ n t ạ i, t h ật t hú v ị k h i t hấy n hữ ng gì Ch at G P T đ ã c ó t h ể là m đư ợc . Ở m ột mứ c độ
nà o đ ó, đ ây l à m ột v í dụ t uy ệt v ờ i v ề t hự c tế k h oa h ọc c ơ bả n r ằ ng m ột s ố lư ợn g l ớ n c ác y ế u
tố t ín h t o án đ ơn g iả n c ó t hể là m đư ợc n hữ n g đ i ều ph i t hư ờ ng v à bấ t n g ờ. Như n g c ó lẽ nó
c ũn g c un g c ấp đ ộ ng l ự c tố t n h ất m à c h ú n g t a đ ã c ó tr on g h ơn h ai ng h ìn n ăm đ ể h i ể u rõ h ơn
đặc đ i ểm v à ng uy ê n t ắ c c ơ bả n c ó t h ể là gì c ủa đ ặc đ i ể m tr u ng t âm c ủa tì n h tr ạ ng c o n ng ư ờ i
đó là ng ô n ng ữ c ủa c o n n gư ời v à c ác q uá tr ì nh tư duy đằ n g s au nó .
Người dịch: Nguyễn Thế Hùng – nguyenthehung.it@gmail.com