DeepMind AI神課上線，Gemini掌門人手把手教：從數(shù)據(jù)、分詞到訓(xùn)練一手包辦

跟頂尖專家學(xué)AI，Google DeepMind推出全新實(shí)用學(xué)習(xí)課程

DeepMind宣布與倫敦大學(xué)學(xué)院（UCL）合作，共同推出了一套免費(fèi)的 “AI研究基礎(chǔ)”（AI Research Foundations） 課程

這套課程現(xiàn)已在Google Skills上線，定位為技術(shù)性、大學(xué)水平的課程。其核心目標(biāo)非常明確：通過實(shí)用的、專門構(gòu)建的內(nèi)容，賦予學(xué)習(xí)者進(jìn)行高影響力AI研究所需的技能

傳送門：

https://skills.google/collections/deepmind

課程內(nèi)容不僅涵蓋Transformer的深度解析，還將手把手教你如何構(gòu)建和微調(diào)LLM

課程講師陣容包括了Gemini項(xiàng)目負(fù)責(zé)人Oriol Vinyals等業(yè)內(nèi)大牛，他們將帶你探索如何更好地編寫代碼、微調(diào)AI模型等核心議題

這套基礎(chǔ)課程目前設(shè)計(jì)了一系列課程部分，旨在結(jié)合負(fù)責(zé)任的AI研究技術(shù)，通過實(shí)踐加深學(xué)習(xí)者的專業(yè)知識(shí)，比如隨便給大家看幾個(gè)課程：

課程01：構(gòu)建你自己的小型語言模型

時(shí)長：6小時(shí)

這門課將帶你了解語言模型的基礎(chǔ)知識(shí)，并建立對(duì)機(jī)器學(xué)習(xí)開發(fā)流程的高層理解

主要內(nèi)容包括：

模型對(duì)比：思考傳統(tǒng)N-gram模型與先進(jìn)Transformer模型的優(yōu)勢(shì)和局限性

實(shí)戰(zhàn)實(shí)驗(yàn)室：通過實(shí)際編碼，深入了解機(jī)器學(xué)習(xí)模型的工作原理，以及它們?nèi)绾斡糜谏晌谋竞妥R(shí)別語言模式

案例研究：通過真實(shí)案例，了解研究工程師是如何工作的

應(yīng)用與責(zé)任：基于這些見解，確定你想在自己社區(qū)中解決的問題，并考慮如何在全球和本地背景下負(fù)責(zé)任地利用機(jī)器學(xué)習(xí)的力量

課程02：表示你的語言數(shù)據(jù)

時(shí)長：4小時(shí)

這門課專注于教你如何為語言模型的處理準(zhǔn)備文本數(shù)據(jù)

核心知識(shí)點(diǎn)：

數(shù)據(jù)準(zhǔn)備：研究用于準(zhǔn)備、結(jié)構(gòu)化和表示文本數(shù)據(jù)的工具和技術(shù)，重點(diǎn)關(guān)注

分詞（Tokenization）和嵌入（Embeddings）

批判性思考：鼓勵(lì)深入思考數(shù)據(jù)準(zhǔn)備背后的決策，以及數(shù)據(jù)中可能存在的偏見如何被引入模型

技術(shù)細(xì)節(jié)：分析權(quán)衡，學(xué)習(xí)如何處理向量和矩陣，以及意義如何在語言模型中被表示

倫理設(shè)計(jì)：練習(xí)使用數(shù)據(jù)卡片（Data Cards）流程以合乎道德的方式設(shè)計(jì)數(shù)據(jù)集，確保AI開發(fā)中的透明度、問責(zé)制和對(duì)社區(qū)價(jià)值觀的尊重

課程03：設(shè)計(jì)和訓(xùn)練神經(jīng)網(wǎng)絡(luò)

時(shí)長：4小時(shí)

第三門課程聚焦于機(jī)器學(xué)習(xí)模型的訓(xùn)練過程

你將學(xué)到：

問題排查：學(xué)習(xí)如何發(fā)現(xiàn)并緩解模型訓(xùn)練中的問題，例如過擬合和欠擬合

編程實(shí)戰(zhàn)：在實(shí)驗(yàn)室中實(shí)現(xiàn)并評(píng)估用于簡單分類任務(wù)的多層感知機(jī)（MLP）。這將有助于理解神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練機(jī)制和反向傳播算法

現(xiàn)實(shí)應(yīng)用：通過研究案例，展示神經(jīng)網(wǎng)絡(luò)如何為現(xiàn)實(shí)世界的模型提供動(dòng)力

還有其他課程，大家可以去探索