Author name: 楊慶忠

2-12：再探AI推理能力 雖然目前AI的推理功能，越來越受到各方重視，但有一個議題，始終爭論不休，那就是，AI究竟真正會思考了，還是它仍然只在做檢索查詢的動作？ 我們傳統在查詢資料時，是習慣透過資料庫，將資料表裡面的數據取了出來。到了AI時代，訊息是隱含在神經網路的參數裡面，但所做的工作，其實都還是在查詢資料，只不過，這時候資料的呈現，是採用自然語言的形式。 但是，AI確實能夠一步一步的推理，幫我們把答案解出來啊！看看下面這個題目，是個國一程度的數學應用題。”有一個人，以每小時30公里的速度，走了30公里的路程，然後再以每小時10公里的速度走了30公里的路程，請問這個人的平均時速是多少？”。 通常在解這個題目時，我們會很直覺地，將時速30公里加上時速10公里，然後再除以2，得到平均時速20公里，因為兩種時速同樣走了30公里。 但ChatGPT懂得依照定義，將總路程除以總時間，得到15公里的平均時速。看起來，似乎ChatGPT是懂得思考的，但也有人懷疑，這是AI在預訓練(Pre-training)階段，從海量資料中，記憶了解題步驟，並非是它自己推理出來的。 我們再來看另一個題目，是和社會現象有關的，我先問ChatGPT是否瞭解印度的種姓制度，它當然是很清楚的，我再問它，”婆羅門禁止賤民的影子和他們的影子相重疊，真正的目的是什麼？”，它的回答如下所示： 我覺得這些答案並未直指核心，所以我再告訴它，”我認為最重要的目的在於做「實質隔離」，因為影子要重疊在一起，人跟人之間的距離必須夠近才會發生，所以主要的考量，是要利用距離來維持高種姓的優越性，你認為這樣的推論合理嗎？” 它的回答就更加深入了。 它補充說明說，物理距離=社會距離，所以禁止影子重疊，就是禁止低種姓靠近高種姓的身體與地位。 它的推論是更加深入了，但也不禁讓人懷疑，它其實是在利用我第二次的提示詞(prompt)，再去做一次檢索(search)的動作。 目前的趨勢，Google在這方面好像有不錯的實質進展，他們DeepMind的研究副總裁，出生台北市的紀懷新博士提到，其合作團隊改採「中小型語言模型」，利用”Multi-step reasoning”的推理技術，已經可以考到奧林匹亞數學競賽的銀牌等級，未來似乎頗值得期待。

2-6.心理學家與人工智慧 2024年的諾貝爾物理學獎，在物理學界的質疑聲浪中，頒發給了人工智慧泰斗傑佛瑞·辛頓(Geoffrey Hinton)。這位多倫多大學電腦科學系教授，是在愛丁堡大學取得人工智慧博士，但就讀學士期間，他唸的是劍橋大學「實驗心理學」學位。 辛頓的研究歷程其實還是有跡可循的，因為大腦神經元進行認知學習的運作機制，向來都是實驗心理學的熱門課題，學生除了傳統的心理學理論之外，還要熟稔操作各種電子量測儀器，也必須善用生物統計的分析技巧。 所以，辛頓的深度學習模型元素，和人類的大腦神經細胞之間，諸如軸突末端、樹突、突觸等，有很高的類比程度，也就不足為奇了。 圖2-6-1. 人類大腦神經元細胞圖(上)，以及深度神經網路圖(下)。 無獨有偶，2024年的圖靈獎得主，理查德·薩頓(Richard Sutton)，學士時期就讀史丹佛大學，唸的也是心理學位。他在強化學習上的貢獻及獨特觀點，也受到其心理學背景的影響。 他贊成同儕科學家克洛普夫(Harry Klopf)的假設，認為人類大腦神經元，是個好逸惡勞的享樂主義者，必須給予適當的獎勵或懲罰，它才會有足夠的學習動機。 這批優秀而執著的學者，以馬可夫決策過程(Markov Decision Process, MDP)為基礎，建構起以狀態、獎懲為主的環境，設計出對代理人所採行動的回應演算式，讓原本被認為只能處理特殊個案的強化學習，經過四十年的孜孜不息，一躍而為人工智慧的重要課題。 圖2-6-2. 人類大腦神經元，是個害怕懲罰、喜歡獎勵的懶傢伙。

3-13：DQN與聶老師 2016年3月，DeepMind公司的AlphaGo電腦程式，以4:1的成績，擊敗世界圍棋冠軍韓國李世乭。到了當年年底，忽見中國大陸騰訊野狐圍棋網站中，在眾人一片錯愕下，橫空出世了一位絕代高手。此神秘高人戰力之強深不可測，在巨星雲集、諸帥環伺之際，竟秋風掃落葉打遍網內無敵手。他在連續幾盤擊敗聶衛平後，在螢幕上顯示了一行繁體中文字「謝謝聶老師」。 有人推測，這位”高手”，應該是AlphaGo的相關版本，因為這款大名鼎鼎的軟體，其背後的靈魂人物，正是來自台灣的師大資訊博士黃士傑。 聶衛平是個傳奇人物，他在好幾屆的「中日圍棋擂台賽」，都是擔任中國方的壓軸強棒。他可以力挽狂瀾、扭轉乾坤，每次中方戰將前線潰敗至丟盔棄甲，戰力崩盤到僅剩下他這最後一棒時，他總能憑藉一己之力起死回生，將擂台上還留有的一票日本高手，全部殺得片甲不留。 圖3-13-1. 聶衛平神定氣閒對戰眉頭深鎖小林光一，小林光一落敗回日本後，馬上將自己理了個大光頭，以示”檢討”。  DeepMind早在2014年1月26日就被Google蒐購，它的核心技術 —「深度強化式學習」，是獲得Google青睞的主要因素，著名的DQN(深度Q網路)，就是由他們提出來的。 DQN，Deep Q Network，顧名思義，就是把強化學習的Q-learning，和深度神經網路結合在一起，這讓原本依據Q-table索引來定義的離散狀態，得以用深度學習來擴展至連續狀態。但也因為agent動作的預測，是改採神經網路來進行，導致整個模型架構變得複雜許多，非得使用GPU來訓練參數不可了。 上圖是一個9×9的迷宮，使用DQN技術，經過300回合訓練所得到的步數分佈數據。主角由中心位置(5,5)開始走，設法避開左上角(1,1)的魔王，儘量以最少的步數8去找到右下角(9,9)的寶藏。 可以看得出來，即使已經接近300回合的練習，仍然會有大於8的步數出現，因為這個時候epsilon仍有約0.05，也就是約20次就會有1次的隨機決定動作。但整體而言，神經網路的參數訓練部份，已經逐漸趨向穩定了。 使用DQN，其神經網路搭配強化式學習一起訓練，必然加倍消耗運算資源，不但訓練回合數比單純使用Q-table來得多，而且每一回合所使用的時間，也隨之暴漲了好幾個數量級，這讓我們不禁想起黃仁勳的名言「算力即國力」。 但這個改變是無可避免的，因為來到AI機器人時代，離散的狀態是一定要改成連續的狀態了，這時候，比DQN更加被廣泛使用的PPO(Proximal Policy Optimization)，也早已步上更寬廣的舞台了。 圖3-13-3. AI機器人雙雄爭霸時代，背後都需要更好的深度強化學習演算法來精益求精。 

2-11：ChatGPT之推理初步 目前各個商業化的大型語言模型，如Grok、Gemini、Claude等，為凸顯其市場競爭力，都會特別強調其推理功能，也就是仿效人類舉一反三、觸類旁通的能力。但老字號的ChatGPT，即使是3.5版本，若能善用提詞技巧，它的推理能力，已經足夠讓人驚艷了。 推理能力，一般人比較會聯想到數理科學領域，那些需要繁複計算的解題過程。但不能忽視的是，普通人在處理平常事物的時候，如果具備有良好的文字思考邏輯能力，在很多方面，也是相對有優勢的。 我們先從簡單的測試開始，看看ChatGPT3.5能否理解半古典中文笑話。它若能分析出笑點所在，則它的能力，很可能不僅僅止於整理資料而已，或許它還能有幾分揣摩人類情感的天份。以下是我們給它的笑話，以及ChatGPT3.5所做的回應。 「 有一個女婿在過年期間去向丈母娘祝壽，他在進門時看到了門口新貼好的春聯上下聯，於是很應景的向岳母說了句“天增歲月娘增壽”，這時所有人都為他的急智大聲喝采；可他得意忘形，不知見好就收，竟然又脫口而出了第二句“春滿乾坤父滿門”，於是被所有親戚當場轟出了家門。」請問，這個笑話的笑點在哪裡？ ChatGPT的解說，真是超乎我們的預期。它竟然知道修改過後的春聯，相對於原來的春聯，這當中的梗到底是好笑在哪裡。 於是，我們再出一題英文的笑話來考考它……….. 「One day, the human torch in the movie ‘Fantastic Four’ felt uncomfortable. Then he went to a hospital to check his body temperature. After the examination, the nurse told him “You are hot.”. And he replied to her “So are you.”」 What’s funny in the mentioned joke?

2-9：使用Grok 3練習英語口說 ChatGPT3.5並沒有繪圖或語音功能，必須付費使用ChatGPT4.0或4o版本，才可享有這些優惠。但大型語言模型Grok 3的出現，如平地一聲雷，迅速填補了這一空缺，讓一般人也可善用窮人版的AI，來達到不錯的多媒體影音效果。 Grok是特斯拉(Tesla)電動車老闆馬斯克，其旗下子公司xAI所發行的產品。目前免費提供下載的Grok 3 Beta版附帶有Think模式，能夠用來解決複雜問題，模擬人類思考進行推理。我們在此，只先利用它的語音功能，來嘗試提升英語會話能力。 https://mobile-learning-testing.com/wp-content/uploads/2025/06/Grok3.mp4 Grok 3的AI對話小姐，名字就叫做Grok。她的口音標準，使用美國人的講話速度，我們可以要求她講慢一點；她不會插你的話，除非你停頓太久；有時她講得太多了，可要求長話短說。 這種英文口說的方式，會逐步改變語言學習的型態，在實體教室和老師練習對話的商機，會呈現汰弱存強的趨勢，直接和外籍老師交談，變得沒有那麼重要了。一般人想使用正確的文法和發音，會不得不去尋求比較有經驗老師的協助。

2-10：ChatGPT表格處理 ChatGPT3.5本身，即使只能算是相對陽春的版本，但可做的事情還真不少，除了文章摘要、詩文創作、修改文稿，還可以把二維表格，取其部份欄位數據，整理為CSV資料檔案格式。 我們令GPT將下列原始表格中，共6個欄位的資料，處理成4個欄位的新表格。新表格欄位名稱包括有產業別，2021年、2022年每月每家平均銷售額，以及這兩年的平均銷售額比值變動率。 上面是未處理前的原始表格，其第一列的欄位名稱部份，是有經過分割儲存格的處理，並且2022年還只有上半年6個月的資料，即使是用人的肉眼來判讀，有時都還難免會發生錯誤，但ChatGPT居然都能正確解讀無誤，實在讓人驚訝！ GPT整理出來的新表格如下，它的計算數據經過查核，並無錯誤，可直接將其轉換成 CSV(Comma Seperated Values)檔案格式。 我們用得到的CSV檔案，請ChatGPT幫忙設計Python程式碼，用來繪製其3D散佈圖。它所提供的程式碼，我們只需要將輸入輸出的部份修改即可，執行後可得到以下的圖形。 如果純粹用人工手動方式，一般人設計Python程式來畫出2D散佈圖，基本上並沒有太大困難，但要畫出3D立體圖並且標記清楚，就沒那麼簡單了。ChatGPT設計程式的能力，一次又一次地，讓我們為它進步的幅度感到震驚！它正無聲無息地，在快速改變程式設計這個行業的樣貌。

2-9：AI生成之人物一致性 ChatGPT3.5，是不提供影像生成功能的，但在ChatGPT4.0/4o版本當中，所使用到的DALL·E 3繪圖技術，倒是被應用在微軟的Copilot平台，可以免費經由Edge瀏覽器來開啟使用。 一般繪圖的風格，可以很粗略地劃分為寫實、插畫、卡通等，其中的寫實風格(realistic style)，是畫風最細緻的表達方式，很多人喜歡拿來生成人物，但也會面臨同樣的難題，就是即使想要畫同一個人，前後的圖畫通常外表會相去甚遠。 例如，我們給它一個提詞，”Yang是一個台灣中年人，他身材微胖，頭髮是黑色的，臉型稍長，常常穿著一件藍色牛仔褲，請用寫實風格，幫我畫一張Yang在河邊(/街上)的圖畫。”，提詞的內容，只不過一個在「河邊」，另一個在「街上」，得到的圖案，差異竟如此之大。 這是因為，我們對人物外型細節的描述不夠精準。如果對同一個人的樣貌特徵，包括姓名、年齡、性別、髮型、臉型、膚色、衣服、裙褲等，前後都可以有一致性的描述，則情況可以改善很多。 我們稍微修改一下提詞為，”Lin是一位台灣年輕女性，她的短髮是金色的，她身材瘦小，皮膚白皙，臉是圓的，喜歡穿著一件粉紅色T-shirt，和一條綠色裙子。請用寫實風格，幫我畫出一張Lin在河邊(/在餐廳吃飯)的圖畫。”，就可以得到下面改良的結果。 除了人物出現的場合，我們可再把衣著調整一下，這不會太過改變人物的外貌，但可視為場景的轉換，”Lin是一位台灣年輕女性，她的短髮是金色的，她身材瘦小，皮膚白皙，臉是圓的，喜歡穿著一件紫色外套，和一條藍色牛仔褲。請用寫實風格，幫我畫出一張Lin在床上看手機(/在家裡和柴犬擁抱)的圖畫。” 使用免費的生成式AI，或者戲稱為「窮人的AI」，若運用好的提詞(prompt)，可補原有軟體之不足。但時代總是在進步的，這種角色一致性(characters consistency)的問題，會隨技術的改善逐步迎刃而解。

2-8：小型語言模型轉執行檔 大型語言模型像ChatGPT等，是不容易被安裝在個人裝置之中，但小型語言模型，如果把它的功能，限縮在某些特定的用途上，例如單純翻譯中英文就好，或者只具備對話功能也可以，則其開發的軟體就不會太大，要轉換成執行檔就變得可行了。 在這個單元，我們所建立的小型語言模型，所提供的只有單一聊天功能，程式碼檔案不大，可利用前面提到的pyinstaller模組，直接轉換成執行檔。我們在此訓練資料的來源，是免費下載自PTT網頁平台(批踢踢)相關的對話資料集，所使用的文字並未多做修飾。 https://mobile-learning-testing.com/wp-content/uploads/2025/05/reinpon9.mp4 在執行對話時，可以察覺到答覆時有略為停頓了一下，這是因為所載入的神經網路權重，其容量多達1.24GB，而我們用的是陽春型的CPU，做如許張量計算有點吃力。如果CPU的速度夠快，或者改用GPU，就不會有這種停頓的感覺了。 到目前為止我們已經觀察到，Python這個程式語言，可連結網路、轉換檔案、建立視窗，很適合用於第一線的實務工作。邊緣裝置如果安裝這種執行檔再加上GPU，則雲端運算常出現的網路遲延(Latency)，將不復存在。

2-7：AI連線上網 我們以Python程式所開發的語言模型，如果想要提升它的可及性，可經由網路連線讓一般人也接觸得到，這同時也可避免原始程式碼外露的風險。另一方面，原始資料如果檔案太大，本就不適合安裝在個人裝置當中。 在這個單元，我們所採AI模型網路連線的技術，是目前普受歡迎的Flask模組。它是一種輕巧的網頁伺服器模組，可結合Python和HTML語法，讓使用者經由固定IP，連接到開發者的個人電腦，取用既經訓練好的語言模型，進行文字處理或生成的工作。 https://mobile-learning-testing.com/wp-content/uploads/2025/05/reinpon8.mp4 我們網頁上的輸入介面，和ChatGPT一樣陽春，而輸出的結果，更加陽春許多。因為是小型語言模型，僅限於英翻中的內容，沒有摘要、創作、簡報等等功能。 ChatGPT之所以使用雲端連線，是不得不然的技術性考量，因為它的神經網路參數，少則數十億，多則數百億，檔案太過龐大，是不可能被安裝在個人電腦上。 但現今的趨勢，一般則是認為，語言模型應該朝小型化發展，小到可以放在邊緣裝置裡面才好。如此，它所點燃的商機，才可能呈現爆炸性的成長。

3-12：製作執行檔 我們所製作的AI遊戲，是使用Python語言來編寫，目前都是採用Spyder軟體來存取訓練的成果，但並不是每個人都準備有這種編譯軟體。如果，想要把所得到的AI結果，推展到一般人也能接觸得到，有兩種方法，其一是將它轉成***.exe執行檔，其二是把它放到網路上。 我們這個單元先簡要地介紹執行檔的做法。第一步，利用pip install pyinstaller的指令，安裝好pyinstaller模組；然後，到開始功能表的Anaconda3資料夾中，找到Anaconda Prompt介面(類似命令提示字元)，切換到工作資料夾，去執行pyinstaller -F ***.py的命令，便可將***.py轉成執行檔。 https://mobile-learning-testing.com/wp-content/uploads/2025/05/reinpon7.mp4 上面的選項 -F，是設定轉換後只要生成***.exe執行檔就好。這個執行檔在被生成後，我們把它複製貼到原來的***.py旁邊，用以載入相關的數據、音效、圖片檔等。花費最多時間載入的是 .npy檔案，它的大小超過1G Bytes，它是訓練了1萬1千次的Q-table，本身是多軸多維的numpy陣列。