【個人上課筆記】2026 TAICA 自然語言處理 - 第六周
【個人上課筆記】2026 TAICA 自然語言處理 - 第六周 Hello Guys I’m LukeTseng. 本篇筆記主要紀錄跟統整上課內容，性質屬於個人學習用途，敬請斟酌參考，謝謝。 清大 MOOCS 2026 TAICA 自然語言處理課程網址：https://mooc.nthu.edu.tw/course/info/470 機器翻譯的重要性 機器翻譯在自然語言處理（Natural Language Processing，NLP）的發展中扮演重要角色，許多 NLP 模型與技術，一開始都是為了解決翻譯問題而發展，例如： 如何理解一句話的完整意思？ 如何處理不同語言之間的語序差異？ 如何根據上下文選擇正確翻譯？ 如何產生長度不同的輸出句子？ 以 “HOW DARE YOU!”（你怎麼敢！）作為例子，這個例子看起來簡單，但已經反映出機器翻譯的基本特性：翻譯不是單純將每個英文單字分別換成中文。 例如，若逐字翻譯： How：如何 dare：敢 you：你 直接組合可能變成「如何敢你」，顯然不符合中文語法，正確翻譯必須先理解整句的語氣和結構，再產生自然的中文句子。 因此，...
【個人上課筆記】2026 TAICA 自然語言處理 - 第五周
【個人上課筆記】2026 TAICA 自然語言處理 - 第五周 Hello Guys I’m LukeTseng. 本篇筆記主要紀錄跟統整上課內容，性質屬於個人學習用途，敬請斟酌參考，謝謝。 清大 MOOCS 2026 TAICA 自然語言處理課程網址：https://mooc.nthu.edu.tw/course/info/470 上下文化詞嵌入 1. 從固定視窗改成較長的上下文 傳統的詞向量方法，通常會觀察一個字附近固定範圍內的詞，也就是用一個較小的上下文視窗（Context Window）。 上下文化詞嵌入的基本精神為： 不只觀察附近幾個字。 盡可能參考較長的句子或文章。 根據目前的上下文，動態產生詞的表示。 老師將其概括成「把句子放長、看的東西更多，並且讓詞向量可以動態學習」，相較於傳統上直接統計大量條件機率，現在主要會利用神經網路預測各種可能的輸出。 2. 語句機率的分解 P(w1,…,wn)=P(w1)P(w2∣w1)P(w3∣w1:2)⋯P(wn∣w1:n−1)P(w_1, \dots, w_n) = P(w_1)P(w_2 \mid w_1)P(w_3...
【個人上課筆記】2026 TAICA 自然語言處理 - 第四周
【個人上課筆記】2026 TAICA 自然語言處理 - 第四周 Hello Guys I’m LukeTseng. 本篇筆記主要紀錄跟統整上課內容，性質屬於個人學習用途，敬請斟酌參考，謝謝。 清大 MOOCS 2026 TAICA 自然語言處理課程網址：https://mooc.nthu.edu.tw/course/info/470 N-gram 的限制與挑戰 這節的流程大致上如下所示： 語言模型。 替文字序列計算機率。 使用困惑度評估模型。 以 Bigram 簡化機率計算。 分析 N-gram 的限制。 延續前面 Word2Vec 與文字表示的內容，開始從語言模型（Language Model, LM）的角度理解文字，課堂中提到兩類語言模型： N-gram Language Model：利用統計與條件機率建模。 Neural Language Model：利用神經網路預測文字序列的可能性。 Language Models：什麼是語言模型？ 能夠替一連串文字指定機率的模型，稱為語言模型。假設有一段文字 W=w1,w2,…,wNW = w_1, w_2, \dots,...
【個人上課筆記】2026 TAICA 自然語言處理 - 第三周
【個人上課筆記】2026 TAICA 自然語言處理 - 第三周 Hello Guys I’m LukeTseng. 本篇筆記主要紀錄跟統整上課內容，性質屬於個人學習用途，敬請斟酌參考，謝謝。 清大 MOOCS 2026 TAICA 自然語言處理課程網址：https://mooc.nthu.edu.tw/course/info/470 為什麼需要 LSA / LSI？ 潛在語意分析（Latent Semantic Analysis, LSA） 潛在語意索引（Latent Semantic Indexing, LSI） 傳統搜尋方法常依靠「字詞完全匹配」（exact match），例如，使用者搜尋：open-source database，傳統方法會傾向尋找同時出現 open-source 和 database 的文件。 但自然語言並非只靠完全相同的字詞表達意思，因此會出現兩個問題。 有出現，不見得相關：某個字出現在文件中，不代表文件真正討論的是使用者想找的概念，這部分與一詞多義有關，同一個字在不同文章中，可能代表不同領域或概念。 例如 database 可以出現在：My...
【個人上課筆記】2026 TAICA 自然語言處理 - 第二周
【個人上課筆記】2026 TAICA 自然語言處理 - 第二周 Hello Guys I’m LukeTseng. 本篇筆記主要紀錄跟統整上課內容，性質屬於個人學習用途，敬請斟酌參考，謝謝。 清大 MOOCS 2026 TAICA 自然語言處理課程網址：https://mooc.nthu.edu.tw/course/info/470 Context Ambiguity（情境模糊性） Context Ambiguity 指的是同一句話可能有不同的意思，電腦必須根據前後情境，判斷使用者真正想表達的目的。 例如，user 對手機說：「下午回臺南要不要帶傘？」 人類會直接理解成「想查臺南下午是否會下雨」，因此應該查詢天氣資訊；但對電腦來說，「帶傘」不一定只和天氣有關，也可能是要參加活動、遊行，或有其他用途，程式必須先理解使用者的意圖，才能決定要不要開啟天氣功能。 規則式系統的問題 早期的語音助理或聊天機器人（Chatbot），都是用 Rule-based System（規則式系統），也就是預先設定關鍵字與對應行為，例如： 看到「明天」，就查詢行事曆。 看到「生日」，就搜尋聯絡人。...
【個人上課筆記】2026 TAICA 自然語言處理 - 第一周
【個人上課筆記】2026 TAICA 自然語言處理 - 第一周 Hello Guys I’m LukeTseng. 本篇筆記主要紀錄跟統整上課內容，性質屬於個人學習用途，敬請斟酌參考，謝謝。 清大 MOOCS 2026 TAICA 自然語言處理課程網址：https://mooc.nthu.edu.tw/course/info/470 Generative Artificial Intelligence (GAI) 什麼是 Generative Artificial Intelligence (GAI)？不是中國有嘻哈那個 GAI Generative Artificial Intelligence (GAI) describes algorithms (such as ChatGPT) that can be used to create novel content, including: Audio Code Images Text (Article, Translation, …) Videos And so on … 簡單來說 GAI 就是一種能夠產生新內容的人...
【Pytorch 深度學習筆記】The PyTorch nn module
【Pytorch 深度學習筆記】The PyTorch nn module 哈囉大家好我是 LukeTseng，感謝您點進本篇筆記，該篇筆記主要配合讀本 《Deep Learning with pytorch》 進行學習，另外透過網路資料作為輔助。本系列筆記是我本人奠基深度學習基礎知識的開始，若文章有誤煩請各位指正，謝謝！ 本篇為 《Deep Learning with pytorch》 這本書 6.2 The PyTorch nn module 章節內容的相關筆記。 6.2 The PyTorch nn module 在先前的章節中，作者用一個簡單的溫度計校正問題來解釋機器學習機制，這個問題其實只要一個簡單的線性函數即可解決。 雖然直接將原本的線性模型替換成 NN，在解決這個簡單問題上看似是殺雞用牛刀了，但這是一個非常關鍵奠基的步驟。 在簡單的問題上導入 NN 模組，可以幫助我們熟悉背後的運作機制，為未來解決與擴展更複雜的問題奠定基礎。 為了讓我們能輕鬆的建構起一個 NN，PyTorch 提供了一個專門的子模組稱為 torch.nn。這個模組包含了建立各種 NN 架構所需的...
【Pytorch 深度學習筆記】何謂人工神經元（Artificial Neurons）
【Pytorch 深度學習筆記】何謂人工神經元（Artificial Neurons） 哈囉大家好我是 LukeTseng，感謝您點進本篇筆記，該篇筆記主要配合讀本 《Deep Learning with pytorch》 進行學習，另外透過網路資料作為輔助。本系列筆記是我本人奠基深度學習基礎知識的開始，若文章有誤煩請各位指正，謝謝！ 本篇為 《Deep Learning with pytorch》 這本書 6.1 Artificial neurons 章節內容的相關筆記。 6.1 Artificial neurons 深度學習的核心為神經網路（Neural Networks, NN），是一種能夠透過組合多個簡單函數來表示複雜函數的數學實體。 白話上來說，讓電腦模仿人類大腦的學習方式，從大量資料中自己找規律，然後用這些規律做判斷或預測，就是神經網路在做的事情。 在數學上，神經網路最基本的組成是神經元（neuron），其核心的運作流程可拆解為兩步：線性轉換（linear transformation）加上一個固定的非線性函數（nonlinear function）。 用數學公式...
【Uva 題庫解題】C++ 個人解題筆記 - part7
【Uva 題庫解題】C++ 個人解題筆記 - part7 本次題庫擷取自 CPE 2026/05/26 歷屆考題：https://cpe.mcu.edu.tw/cpe/test_data/2026-05-26 1. Uva 11639 - Guard the Land PDF Source：https://onlinejudge.org/external/116/11639.pdf Uva Online Judge：https://onlinejudge.org/index.php?option=com_onlinejudge&Itemid=8&page=show_problem&problem=2686 Zerojudge：https://zerojudge.tw/ShowProblem?problemid=e568 難度：★☆☆☆☆ 題目觀察與解題思路 題目給定 100×100100 \times 100100×100 大小的土地，每晚有兩名守衛，各自負責一個矩形區域。 若某區域被兩名守衛同時看守，稱為 strongly secured。 只被...
【計算機網路筆記】4.3 The Internet Protocol (IP): IPv4, Addressing, IPv6, and More
【計算機網路筆記】4.3 The Internet Protocol (IP): IPv4, Addressing, IPv6, and More Hello Guys, I’m LukeTseng. 歡迎你也感謝你點入本篇文章，本系列主要讀本為《Computer Networking: A Top-Down Approach, 8th Edition》，就是計算機網路的聖經，會製作該系列也主要因為修課上會用到。若你喜歡本系列或本文，不妨動動你的手指，為這篇文章按下一顆愛心吧，或是追蹤我的個人公開頁也 Ok。 4.3.1 IPv4 Datagram Format（Ipv4 資料包格式） IPv4 Datagram 是什麼？ 在 Internet 的網路層中，封包稱為 datagram，IPv4 datagram 可以想成「網路層寄送資料的包裹」，裡面分成兩大部分： Header（標頭）：給路由器與目的主機看的控制資訊。 Data / Payload（資料負載，或稱酬載）：真正要送的資料，通常是 TCP 或 UDP segment。 書中的 Figure 4.17（如下圖...
計算機網路上的 Dijkstra's Algorithm 求最短路徑
計算機網路上的 Dijkstra’s Algorithm 求最短路徑 紀錄 2026/05/20 計算機網路課程。 何謂 Dijkstra’s Algortihm？ Dijkstra’s algorithm 是一種用來解決「單一起點最短路徑」的演算法，也就是從某個起點出發，找出到圖中其他所有節點的最短距離，適用於邊權重非負數的加權圖，例如道路距離、網路傳輸成本、地圖導航等情境。 Dijkstra’s Algorithm 的演算主要思路為每次都選擇目前距離起點最近、且尚未確定最短距離的節點，然後用這個節點去更新它鄰居的距離。 基本概念 Dijkstra’s algorithm 會維護兩個資訊（以寫程式上來說）： 項目 說明 dist[] 從起點到每個節點目前已知的最短距離 visited[] 該節點的最短距離是否已經確定 一開始起點距離設為 000，其他節點距離設為無限大 ∞∞∞，之後演算法會不斷挑選目前 dist 最小的未拜訪節點，並更新它相鄰節點的距離，這個更新動作稱為 Relaxation，鬆弛操作。 時間複雜度 若用普通陣列尋找最小距離節點...
【考試向】資料結構筆記（圖論 Graph Theory）
【考試向】資料結構筆記（圖論 Graph Theory） 歡迎你點入本篇文章！我是 LukeTseng，本系列文章主要整理自學資料結構的一些知識，如果你喜歡我的文章，麻煩您不吝嗇的在文章底下按下一顆愛心，或是追蹤我唷～ 簡介 1736 年：柯尼斯堡七橋問題（Seven Bridges of Königsberg） 圖學的誕生源於一個經典的數學謎題，在 18 世紀的普魯士城市柯尼斯堡（Königsberg），有一條普列戈利亞河貫穿整座城市，河中有兩個島嶼，並有七座橋將這兩個島嶼與河岸連接起來。 當時的市民在思考一個問題：「有沒有可能從某處出發，走過所有的七座橋，且每座橋只走過一次，最後又回到原點？」 1736 年，瑞士數學家李昂哈德·尤拉（Leonhard Euler）為了解決該問題，發表了圖論史上的第一篇論文，他將這個真實世界的地貌進行了「抽象化」： 他把陸地（河岸與島嶼）縮小成「點」。 他把連接陸地的橋樑簡化為「線」。 尤拉證明了，要能夠達成上述條件（即著名的尤拉迴圈），所有點所連接的線的數量（分支度）必須都是偶數。而在七橋問題中，所有陸地連接的橋數都是奇數，因此這樣...
【論文閱讀】YOLO26: An Analysis of NMS-Free End to End Framework for Real-Time Object Detection
【論文閱讀】YOLO26: An Analysis of NMS-Free End to End Framework for Real-Time Object Detection paper : https://arxiv.org/abs/2601.12882 註：本文僅供個人學習用途、筆記用，內容斟酌參考，請注意事實查核。（This article is for learning and noting. Content of article consider for reference. Note that fact checking.） 我個人算是 CV 領域的新手，有些我不懂的地方會加上自己寫的註釋，敬請見諒。 Abstract 簡單來說，YOLO26 是一個全新的即時物件偵測框架，最大的突破在於完全捨棄了傳統的非極大值抑制（Non-Maximum Suppression, NMS）後處理步驟，改採原生的端到端學習策略，藉此消除延遲變數。 為驅動這個新架構，模型引入了三大核心技術： 用於穩定骨幹網路的 MuSGD Optimizer 提升小物件偵測的 STAL（Sma...
【計算機網路筆記】4.2 What’s Inside a Router?
【計算機網路筆記】4.2 What’s Inside a Router? Hello Guys, I’m LukeTseng. 歡迎你也感謝你點入本篇文章，本系列主要讀本為《Computer Networking: A Top-Down Approach, 8th Edition》，就是計算機網路的聖經，會製作該系列也主要因為修課上會用到。若你喜歡本系列或本文，不妨動動你的手指，為這篇文章按下一顆愛心吧，或是追蹤我的個人公開頁也 Ok。 路由器（Router）就像是網路世界裡面的「圓環」，負責將來自四面八方的網路 資料包（Datagram），快速精準地轉送到正確的出口。 下圖 4.4 為路由器架構。 Image Source：Computer Networking: A Top-Down Approach (8th ed., p. 341, Figure 4.4) 而至於路由器內部有什麼呢？首先請看其內部的內部四大核心組件： 輸入埠（Input Port）：路由器的「入口閘道」，封包抵達的第一站。 它會執行實體層（Physical Layer）功能，當作實體連結進入路由...
【計算機網路筆記】4.1 Overview of Network Layer
【計算機網路筆記】4.1 Overview of Network Layer Hello Guys, I’m LukeTseng. 歡迎你也感謝你點入本篇文章，本系列主要讀本為《Computer Networking: A Top-Down Approach, 8th Edition》，就是計算機網路的聖經，會製作該系列也主要因為修課上會用到。若你喜歡本系列或本文，不妨動動你的手指，為這篇文章按下一顆愛心吧，或是追蹤我的個人公開頁也 Ok。 為了讓各位有更清晰的圖像，我們從一個簡單的網路情境出發。 想像有兩台主機（Host）（或稱終端系統（End System））H1 與 H2，它們之間隔著幾台路由器（Router）。 當 H1 要傳送資訊給 H2 時，H1 的網路層會從上層的傳輸層接收區段（Segment），將其封裝成資料包（Datagram），然後傳送給與它直接相連的路由器 R1。 在接收端 H2，網路層會從鄰近的路由器 R2 接收這些資料包，將裡面的傳輸層區段提取出來，並往上傳遞給 H2 的傳輸層。 於此有一個非常重要的細節：路由器內部的協定堆疊（Protocol St...