星期三, 四月 30, 2008

小寶的本事

每天晚上,我幾乎重複相同的動作,關電腦,然後叫小寶去睡覺。
可是,後來我發現,我還沒叫牠去睡覺,牠就自己鑽進狗窩裡了。

牠聽得懂我電腦關機的意思。


//
happy是我家附近漫畫店黑狗的名字。

我媽出門的時候,有時候會這樣跟牠說,「媽媽要出門,你要去happy 家玩嗎? 」
於是小寶就跟跟跟~~

有時候會這樣說:「媽媽要出門,你要去happy 家玩嗎? 可是我要順便去菜市場,你要自己留在happy家等我喔~ 」
然後小寶就鑽回牠的狗窩…決定不出門。

怎麼,夠複雜了吧~
教其它的東西,都不認真學。學些莫名其妙的東西倒是滿強的

星期二, 四月 29, 2008

[創智慧]的讀書心得

這本書的心得,我如果真的要寫,大概會寫得沒完沒了。不過還是簡單的寫一下好了。

以前我看過一部電影,電影中的對白:
A 「我解剖過人腦,沒有發現容納靈魂的地方。」( A的意思是信仰本質不存在 )
B 「那請問,記憶、勇氣、又是存放在那裡。」

我學東西的時候,覺得我愈是年長,記憶力愈好,本來讀原文書的效率很差,看過也不記得,後來大有改進。本來記舞步很差,後來也是大有進步。因此我猜大腦運作的方式,是用pointer,用模組化的方式在記東西。簡單的說,它是個data compression的system。

這本書主要探討「新皮質」的功能。
新皮質有6層,用computer來作解釋,簡單的說,人可以進行的運算只有6 個 operation。但是,實際上,你可以感覺到的,只有在最上層的operation。

剩下的5個 operation不會進入你的主觀意識,它在你沒有發現它的時候,就被處理掉了。
example:
當你在讀這段文字時,你的第6層皮質,得到的已經是抽象的概念。
第一層可能只知道 "看到了一堆 點和線"
第二層可能只知道 " 這是符號,有很多個 "
第四層可能已經知道 "一個字一個字的意思 "
第五層可能可以斷句、

//////////////////////////
但是當你換學另一種語文時,一切就重來…。
不過,隨著你的努力,本來在上層才有辦法處理的,會一直往下層推,而你的上層皮質,就可以有空閒去處理 "形態中的形態" "規律中的規律"
//////////////////////////

書中對大腦皮質的重要解釋有幾個:
1 大腦的記憶是形態的序列 ( 因為 memory 和 computation 是一體的。當你提取memory時,你是把這堆memory 計算出來,而不是提取出來。)
2 大腦的記憶是自體聯結記憶 ( 用部分即可以取得全部 )
3 每一個layer都能對某些特定的"不變表徵" (eigen vector)作出反應。
4 大腦不停地預測。 (因為信號不停地在 不同的layer 之間forward和backward)
這是智慧的根本 ---> 預測

////////////////////////////////
個人的看法是,這個hierarchical的架構,無論是應用在
(1) data compression( 和碎形有點像 ),
(2) parallel processing的運算架構,
(3) pattern recognition / data classification

都可以有很大的應用空間。最重要的是,現在的computer架構,根本不是大腦的"皮質架構"。

而在演算法的層次,我認為,大腦的computing方式,本質上就是一種dynamic programming ( 先把會重複計算的部分算好,存起來)
嚴格的說,應該是 dynamic programming of dynamic programming
( 先把會重複運用的計算迴路,繞出來。 )

////////////////////////////////////
原作者認為,現在正是發展 "類皮質電腦"的大好時機。

星期一, 四月 28, 2008

[讀書心得]創智慧-- 理解人腦運作,打造智慧機器

自己寫推荐,太累了,引用別人的好了,下頭的心得是引用來的,原始文章

//////////////////////////////////////

文類:書評

書名:創智慧-- 理解人腦運作,打造智慧機器 (On Intelligence)
出版社:遠流出版社

作者:傑夫‧霍金斯

譯者:洪蘭

《創 智慧》這本書談論的是人腦如何運作的理論。要瞭解作者在想些甚麼,我們最好從一個例子出發。圖一裡有個中文字,中間被塗黑了,只有外框被保留下來。看了這 個字,你會猜想它是「圖」、「圓」、或「園」這類的字。你可能會先想到「圖」這個字,那是「圖一」所帶給你的聯想。然而,你就是無法確定它是哪個字。

image002.jpg

圖一、中間被塗黑的中文文字。

如果我將這個字所出現的脈絡一併呈現給你(圖二),你會毫不遲疑地說,「啊,這是個『國』字。」請留意,出現在這兩個圖中的「國」字長相其實完全相同。為什麼當它單獨出現時,你無法認出;伴隨脈絡出現時,你卻能正確辨認?

image004.jpg

圖二、伴隨下文出現的「國」字。

你 會說,「當然嘛,這是為什麼我們可以訓練自己速讀。在閱讀時,我們看到的其實是整段文字,而不是個別文字。」然而,如果我們只從整段來判讀文字,我們是怎 麼認識單獨文字的?而且,如果一個文字出現在不該出現的脈絡(如,「國惠」),我們就沒有機會認出它來嗎?你又會說,「這並不難。我們可以把法則訂成這 樣:如果一個文字出現在脈絡裡,我們使用脈絡的規則來判斷它;如果它單獨出現時,我們則以另一種規則判斷。」然而,在脈絡出現的情況裡,我們仍然有機會看 到單獨的文字。假若這兩種規則提出了相抵觸的判斷,我們應該相信哪一個呢?我們這樣想下去,會逐漸發現,要發明一些法則來模擬人腦的部分運作並不困難。然 而,如果要在很多方面都能達到與人腦相同的效能,我們就會被迫把法則寫得越來越繁複,而且仍然免不了顧此而失彼。

傑夫‧霍金斯認為人腦是這麼運作的。首先,人腦有個階層性的架構。輸入的訊號從下層進入,流經中層,最後進入上層。每一層的神經細胞都是某一種類型的型態辨別器(pattern recognizer), 它們所從事的工作是把下一層所送來的訊息作進一步的判斷,決定自己是否要活化(被激發)。比如,我們的腦子可能有個辨識部分文字的層次。在這層次裡,當圖 一的訊息進入時,負責辨識外框(口)的神經細胞活化了。然而,由於資訊的不明確,負責辨識「或」的神經細胞並沒有活化。到了大腦的上一層,所有負責辨識文 字中有個口的神經細胞一起活化,因此我們會說,這可能是「圖」,也可能是「圓」,等等。到了更上一層,負責辨識「國家」的神經細胞也活化了,我們認出一個 完整的名詞。

image006.jpg

圖三、兩層次架構的神經組織。

人腦的架構不僅有階層的連結而且有相互的連結。也就是說,如果一個區域會傳送訊息給另一個區域,後者也會傳送回饋訊息給前者。這有甚麼好處呢?當「國家」在大腦的某個層次被細胞A辨認(圖三)以後, A會把回饋訊號傳給下一層次的B,後者負責「國」的辨認。我們假定BCD(以及一些沒有呈現出來的細胞)在同一層次, C負責「圖」的辨識,D負責「圓」,等等。同層次的細胞功能不同,會傳送抑制的訊號給彼此。如此一來,即使CD受到低層次訊號的影響,會短暫地活化,卻無法與B相抗衡,因為B接受了A的激發,而CD則沒有這樣的奧援。經過這樣訊號的上下流通,最終只有AB能夠維持活化的狀態,CD的活動終將式微。

這 裡所傳達的最重要的理念是:神經訊號必須在不同層次的細胞之間相互流通,同層次的神經細胞則必須做相互的抑制,大腦的系統才會進入穩定的狀態。當這個狀態 出現時,我們會同時辨認到整體與部分的型態。這些型態之所以能夠被辨認,是因為負責辨認它們的神經細胞能夠相互支持,因而在競逐的過程中取得了穩定的活 化。

當 神經細胞無法取得穩定的活化時,它們會繼續傳送訊號到上層的細胞去,期望當訊號進入某個層次以後,每個層次的細胞都能夠獲得穩定的活化。這是一個動態系統 所自然發生的事情,沒有人命令它要這麼做。這種經由動態系統以及穩定狀態來解釋大腦運作的理論,特別能照顧到我們所熟知的事實:大腦經常需要脈絡來確定它 的認知。