很多朋友對(duì)于forward中文官網(wǎng)和forward中文是什么意思不太懂，今天就由小編來(lái)為大家分享，希望可以幫助到大家，下面一起來(lái)看看吧！

卡西歐baby-g100中文說(shuō)明書

有中文說(shuō)明書。因?yàn)榭ㄎ鳉W作為一家國(guó)際品牌，一定會(huì)考慮不同國(guó)家消費(fèi)者的需求，所以他們會(huì)準(zhǔn)備不同語(yǔ)言的說(shuō)明書。如果你需要，可以在卡西歐官網(wǎng)上或者購(gòu)買該產(chǎn)品的商家處獲取到中文說(shuō)明書。此外，如果你對(duì)手表有更深入的了解和探究，可以在網(wǎng)上找一些相關(guān)的博客或者論壇，了解其他用戶的使用體驗(yàn)和技巧，這樣可以更好地為你使用手表提供幫助。

waterproof手表怎么調(diào)時(shí)間

雙顯一般調(diào)節(jié)就是按mode按鍵，循環(huán)按，直至屏幕出現(xiàn)H-SET字樣后，然后長(zhǎng)按adjust按鍵，HSET會(huì)閃動(dòng)變成時(shí)間，此刻按forward，就能順時(shí)針調(diào)整指針了?；蛘呱鲜直砉倬W(wǎng)，輸入型號(hào)和表底數(shù)字查詢

上海復(fù)旦復(fù)華藥業(yè)公司的官網(wǎng)是什么

簡(jiǎn)介：上海復(fù)旦復(fù)華藥業(yè)有限公司以復(fù)旦大學(xué)為背景，是上海復(fù)旦復(fù)華科技股份有限公司的子公司，主要從事中成藥、化學(xué)藥、基因工程藥物的研發(fā)、生產(chǎn)和銷售，下設(shè)新藥研發(fā)中心、紅旗制藥廠、質(zhì)量管理中心等部門。公司于1993年起連續(xù)14年被認(rèn)定為高新技術(shù)企業(yè)。座落于上海閔行區(qū)的全新GMP生產(chǎn)廠建有固體制劑（片劑、膠囊劑）、針劑（凍干粉針劑、小容量注射劑）、中藥提取、包裝、原料藥等5個(gè)車間?！半p益”商標(biāo)于2005年被評(píng)為上海市著名商標(biāo)。公司秉承“追求一流，敢為人先，勵(lì)精圖治，奉獻(xiàn)社會(huì)”的宗旨，堅(jiān)持以市場(chǎng)為導(dǎo)向，技術(shù)創(chuàng)新為推動(dòng)力的發(fā)展戰(zhàn)略，充分利用自身優(yōu)勢(shì)，發(fā)揮特長(zhǎng)，多方聯(lián)動(dòng)，通過(guò)自主研發(fā)、聯(lián)合研發(fā)與委托研發(fā)相結(jié)合，提高企業(yè)核心競(jìng)爭(zhēng)力，建立并完善符合企業(yè)特點(diǎn)的市場(chǎng)開發(fā)、銷售模式，做強(qiáng)做大復(fù)旦復(fù)華藥業(yè)。電話：86-21-63872288傳真：86-21-63869700法定代表人：蔣國(guó)興成立日期：375984000注冊(cè)資本：4480萬(wàn)元人民幣所屬地區(qū)：上海市統(tǒng)一社會(huì)信用代碼：91310112132661556L經(jīng)營(yíng)狀態(tài)：存續(xù)（在營(yíng)、開業(yè)、在冊(cè)）所屬行業(yè)：制造業(yè)公司類型：其他有限責(zé)任公司英文名：ShanghaiFudanForwardPharmaceuticalCo.,Ltd.人員規(guī)模：100-500人企業(yè)地址：上海市閔行區(qū)曙光路1399號(hào)經(jīng)營(yíng)范圍：凍干粉針劑、片劑(含抗腫瘤藥)、硬膠囊劑、原料藥、中藥提取車間,從事醫(yī)藥專業(yè)領(lǐng)域內(nèi)的技術(shù)開發(fā)、技術(shù)咨詢、技術(shù)服務(wù)、技術(shù)轉(zhuǎn)讓,批發(fā)(非實(shí)物方式):預(yù)包裝食品(不含熟食鹵味、冷凍冷藏)?！疽婪毥?jīng)批準(zhǔn)的項(xiàng)目,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營(yíng)活動(dòng)】

福瑪特自行車官網(wǎng)

是http://www.fuji-bikes.com/因?yàn)楦，斕刈孕熊囀且患抑淖孕熊嚻放疲谄涔倬W(wǎng)上可以查看到各種款式的自行車及其詳細(xì)信息，進(jìn)行線上購(gòu)買和售后服務(wù)。除了，還可以在一些知名的電商平臺(tái)上購(gòu)買?，斕刈孕熊?，比如京東、淘寶等。同時(shí)，在購(gòu)買?，斕刈孕熊嚂r(shí)要注意選擇正規(guī)的銷售渠道，以免買到假冒偽劣商品。

mysql的workbench怎么使用

以下是使用MySQLWorkbench的一些基本步驟：

下載和安裝MySQLWorkbench。可以在MySQL官網(wǎng)上下載并安裝MySQLWorkbench。

連接到MySQL服務(wù)器。啟動(dòng)MySQLWorkbench，單擊“NewConnection”按鈕，輸入連接的主機(jī)名、端口、用戶名和密碼等信息，點(diǎn)擊“TestConnection”測(cè)試連接是否成功，然后點(diǎn)擊“OK”保存連接信息。

創(chuàng)建或打開一個(gè)數(shù)據(jù)庫(kù)模型。在MySQLWorkbench的“Navigator”窗格中，選擇“Database”節(jié)點(diǎn)，在彈出的菜單中選擇“CreateDatabaseModel”或“OpenExistingDatabaseModel”選項(xiàng)。

設(shè)計(jì)數(shù)據(jù)庫(kù)模型。在“Modeling”窗格中，使用“Schema”,“Table”,“Column”等工具設(shè)計(jì)數(shù)據(jù)庫(kù)模型。可以設(shè)置表和列的名稱、數(shù)據(jù)類型、主鍵、外鍵等屬性。

創(chuàng)建數(shù)據(jù)庫(kù)。在設(shè)計(jì)好數(shù)據(jù)庫(kù)模型后，單擊“Database”菜單，選擇“ForwardEngineer…”選項(xiàng)，MySQLWorkbench將自動(dòng)生成SQL語(yǔ)句，用于創(chuàng)建數(shù)據(jù)庫(kù)和表。

PyTorch的使用經(jīng)驗(yàn)都有哪些

PyTorch的構(gòu)建者表明，PyTorch的哲學(xué)是解決當(dāng)務(wù)之急，也就是說(shuō)即時(shí)構(gòu)建和運(yùn)行計(jì)算圖。目前，PyTorch也已經(jīng)借助這種即時(shí)運(yùn)行的概念成為最受歡迎的框架之一，開發(fā)者能快速構(gòu)建模型與驗(yàn)證想法，并通過(guò)神經(jīng)網(wǎng)絡(luò)交換格式ONNX在多個(gè)框架之間快速遷移。本文從基本概念開始介紹了PyTorch的使用方法、訓(xùn)練經(jīng)驗(yàn)與技巧，并展示了可能出現(xiàn)的問(wèn)題與解決方案。

項(xiàng)目地址：https://github.com/Kaixhin/grokking-pytorch

PyTorch是一種靈活的深度學(xué)習(xí)框架，它允許通過(guò)動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)（例如利用動(dòng)態(tài)控流——如if語(yǔ)句或while循環(huán)的網(wǎng)絡(luò)）進(jìn)行自動(dòng)微分。它還支持GPU加速、分布式訓(xùn)練以及各類優(yōu)化任務(wù)，同時(shí)還擁有許多更簡(jiǎn)潔的特性。以下是作者關(guān)于如何利用PyTorch的一些說(shuō)明，里面雖然沒(méi)有包含該庫(kù)的所有細(xì)節(jié)或最優(yōu)方法，但可能會(huì)對(duì)大家有所幫助。

神經(jīng)網(wǎng)絡(luò)是計(jì)算圖的一個(gè)子類。計(jì)算圖接收輸入數(shù)據(jù)，數(shù)據(jù)被路由到對(duì)數(shù)據(jù)執(zhí)行處理的節(jié)點(diǎn)，并可能被這些節(jié)點(diǎn)轉(zhuǎn)換。在深度學(xué)習(xí)中，神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元（節(jié)點(diǎn)）通常利用參數(shù)或可微函數(shù)轉(zhuǎn)換數(shù)據(jù)，這樣可以優(yōu)化參數(shù)以通過(guò)梯度下降將損失最小化。更廣泛地說(shuō)，函數(shù)是隨機(jī)的，圖結(jié)構(gòu)可以是動(dòng)態(tài)的。所以說(shuō)，雖然神經(jīng)網(wǎng)絡(luò)可能非常適合數(shù)據(jù)流式編程，但PyTorch的API卻更關(guān)注命令式編程——一種編程更常考慮的形式。這令讀取代碼和推斷復(fù)雜程序變得簡(jiǎn)單，而無(wú)需損耗不必要的性能；PyTorch速度很快，且擁有大量?jī)?yōu)化，作為終端用戶你毫無(wú)后顧之憂。

本文其余部分寫的是關(guān)于grokkingPyTorch的內(nèi)容，都是基于MINIST官網(wǎng)實(shí)例，應(yīng)該要在學(xué)習(xí)完官網(wǎng)初學(xué)者教程后再查看。為便于閱讀，代碼以塊狀形式呈現(xiàn)，并帶有注釋，因此不會(huì)像純模塊化代碼一樣被分割成不同的函數(shù)或文件。

Pytorch基礎(chǔ)

PyTorch使用一種稱之為imperative/eager的范式，即每一行代碼都要求構(gòu)建一個(gè)圖，以定義完整計(jì)算圖的一個(gè)部分。即使完整的計(jì)算圖還沒(méi)有構(gòu)建好，我們也可以獨(dú)立地執(zhí)行這些作為組件的小計(jì)算圖，這種動(dòng)態(tài)計(jì)算圖被稱為「define-by-run」方法。

PyTorch張量

正如PyTorch文檔所說(shuō)，如果我們熟悉NumPy的多維數(shù)組，那么Torch張量的很多操作我們能輕易地掌握。PyTorch提供了CPU張量和GPU張量，并且極大地加速了計(jì)算的速度。

從張量的構(gòu)建與運(yùn)行就能體會(huì)，相比TensorFLow，在PyTorch中聲明張量、初始化張量要簡(jiǎn)潔地多。例如，使用torch.Tensor(5,3)語(yǔ)句就能隨機(jī)初始化一個(gè)5×3的二維張量，因?yàn)镻yTorch是一種動(dòng)態(tài)圖，所以它聲明和真實(shí)賦值是同時(shí)進(jìn)行的。

在PyTorch中，torch.Tensor是一種多維矩陣，其中每個(gè)元素都是單一的數(shù)據(jù)類型，且該構(gòu)造函數(shù)默認(rèn)為torch.FloatTensor。以下是具體的張量類型：

除了直接定義維度，一般我們還可以從Python列表或NumPy數(shù)組中創(chuàng)建張量。而且根據(jù)使用Python列表和元組等數(shù)據(jù)結(jié)構(gòu)的習(xí)慣，我們可以使用相似的索引方式進(jìn)行取值或賦值。PyTorch同樣支持廣播（Broadcasting）操作，一般它會(huì)隱式地把一個(gè)數(shù)組的異常維度調(diào)整到與另一個(gè)算子相匹配的維度，以實(shí)現(xiàn)維度兼容。

自動(dòng)微分模塊

TensorFlow、Caffe和CNTK等大多數(shù)框架都使用靜態(tài)計(jì)算圖，開發(fā)者必須建立或定義一個(gè)神經(jīng)網(wǎng)絡(luò)，并重復(fù)使用相同的結(jié)構(gòu)來(lái)執(zhí)行模型訓(xùn)練。改變網(wǎng)絡(luò)的模式就意味著我們必須從頭開始設(shè)計(jì)并定義相關(guān)的模塊。

但PyTorch使用的技術(shù)為自動(dòng)微分（automaticdifferentiation）。在這種機(jī)制下，系統(tǒng)會(huì)有一個(gè)Recorder來(lái)記錄我們執(zhí)行的運(yùn)算，然后再反向計(jì)算對(duì)應(yīng)的梯度。這種技術(shù)在構(gòu)建神經(jīng)網(wǎng)絡(luò)的過(guò)程中十分強(qiáng)大，因?yàn)槲覀兛梢酝ㄟ^(guò)計(jì)算前向傳播過(guò)程中參數(shù)的微分來(lái)節(jié)省時(shí)間。

從概念上來(lái)說(shuō)，Autograd會(huì)維護(hù)一個(gè)圖并記錄對(duì)變量執(zhí)行的所有運(yùn)算。這會(huì)產(chǎn)生一個(gè)有向無(wú)環(huán)圖，其中葉結(jié)點(diǎn)為輸入向量，根結(jié)點(diǎn)為輸出向量。通過(guò)從根結(jié)點(diǎn)到葉結(jié)點(diǎn)追蹤圖的路徑，我們可以輕易地使用鏈?zhǔn)椒▌t自動(dòng)計(jì)算梯度。

在內(nèi)部，Autograd將這個(gè)圖表征為Function對(duì)象的圖，并且可以應(yīng)用apply()計(jì)算評(píng)估圖的結(jié)果。在計(jì)算前向傳播中，當(dāng)Autograd在執(zhí)行請(qǐng)求的計(jì)算時(shí)，它還會(huì)同時(shí)構(gòu)建一個(gè)表征梯度計(jì)算的圖，且每個(gè)Variable的.grad_fn屬性就是這個(gè)圖的輸入單元。在前向傳播完成后，我們可以在后向傳播中根據(jù)這個(gè)動(dòng)態(tài)圖來(lái)計(jì)算梯度。

PyTorch還有很多基礎(chǔ)的模塊，例如控制學(xué)習(xí)過(guò)程的最優(yōu)化器、搭建深度模型的神經(jīng)網(wǎng)絡(luò)模塊和數(shù)據(jù)加載與處理等。這一節(jié)展示的張量與自動(dòng)微分模塊是PyTorch最為核心的概念之一，讀者可查閱PyTorch文檔了解更詳細(xì)的內(nèi)容。

下面作者以MNIST為例從數(shù)據(jù)加載到模型測(cè)試具體討論了PyTorch的使用、思考技巧與陷阱。

PyTorch實(shí)用指南

導(dǎo)入

importargparseimporttorchfromtorchimportnn,optimfromtorch.nnimportfunctionalasFfromtorch.utils.dataimportDataLoaderfromtorchvisionimportdatasets,transforms

除了用于計(jì)算機(jī)視覺問(wèn)題的torchvision模塊外，這些都是標(biāo)準(zhǔn)化導(dǎo)入。

設(shè)置

parser=argparse.ArgumentParser(description='PyTorchMNISTExample')parser.add_argument('--batch-size',type=int,default=64,metavar='N',help='inputbatchsizefortraining(default:64)')parser.add_argument('--epochs',type=int,default=10,metavar='N',help='numberofepochstotrain(default:10)')parser.add_argument('--lr',type=float,default=0.01,metavar='LR',help='learningrate(default:0.01)')parser.add_argument('--momentum',type=float,default=0.5,metavar='M',help='SGDmomentum(default:0.5)')parser.add_argument('--no-cuda',action='store_true',default=False,help='disablesCUDAtraining')parser.add_argument('--seed',type=int,default=1,metavar='S',help='randomseed(default:1)')parser.add_argument('--save-interval',type=int,default=10,metavar='N',help='howmanybatchestowaitbeforecheckpointing')parser.add_argument('--resume',action='store_true',default=False,help='resumetrainingfromcheckpoint')args=parser.parse_args()use_cuda=torch.cuda.is_available()andnotargs.no_cudadevice=torch.device('cuda'ifuse_cudaelse'cpu')torch.manual_seed(args.seed)ifuse_cuda:torch.cuda.manual_seed(args.seed)

argparse是在Python中處理命令行參數(shù)的一種標(biāo)準(zhǔn)方式。

編寫與設(shè)備無(wú)關(guān)的代碼（可用時(shí)受益于GPU加速，不可用時(shí)會(huì)倒退回CPU）時(shí)，選擇并保存適當(dāng)?shù)膖orch.device,不失為一種好方法，它可用于確定存儲(chǔ)張量的位置。關(guān)于與設(shè)備無(wú)關(guān)代碼的更多內(nèi)容請(qǐng)參閱官網(wǎng)文件。PyTorch的方法是使用戶能控制設(shè)備，這對(duì)簡(jiǎn)單示例來(lái)說(shuō)有些麻煩，但是可以更容易地找出張量所在的位置——這對(duì)于a）調(diào)試很有用，并且b）可有效地使用手動(dòng)化設(shè)備。

對(duì)于可重復(fù)實(shí)驗(yàn)，有必要為使用隨機(jī)數(shù)生成的任何數(shù)據(jù)設(shè)置隨機(jī)種子（如果也使用隨機(jī)數(shù)，則包括隨機(jī)或numpy）。要注意，cuDNN用的是非確定算法，可以通過(guò)語(yǔ)句torch.backends.cudnn.enabled=False將其禁用。

數(shù)據(jù)

train_data=datasets.MNIST('data',train=True,download=True,transform=transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.1307,),(0.3081,))]))test_data=datasets.MNIST('data',train=False,transform=transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.1307,),(0.3081,))]))train_loader=DataLoader(train_data,batch_size=args.batch_size,shuffle=True,num_workers=4,pin_memory=True)test_loader=DataLoader(test_data,batch_size=args.batch_size,num_workers=4,pin_memory=True)

torchvision.transforms對(duì)于單張圖像有非常多便利的轉(zhuǎn)換工具，例如裁剪和歸一化等。

DataLoader包含非常多的參數(shù)，除了batch_size和shuffle，num_workers和pin_memory對(duì)于高效加載數(shù)據(jù)同樣非常重要。例如配置num_workers>0將使用子進(jìn)程異步加載數(shù)據(jù)，而不是使用一個(gè)主進(jìn)程塊加載數(shù)據(jù)。參數(shù)pin_memory使用固定RAM以加速RAM到GPU的轉(zhuǎn)換，且在僅使用CPU時(shí)不會(huì)做任何運(yùn)算。

模型

classNet(nn.Module):def__init__(self):super(Net,self).__init__()self.conv1=nn.Conv2d(1,10,kernel_size=5)self.conv2=nn.Conv2d(10,20,kernel_size=5)self.conv2_drop=nn.Dropout2d()self.fc1=nn.Linear(320,50)self.fc2=nn.Linear(50,10)defforward(self,x):x=F.relu(F.max_pool2d(self.conv1(x),2))x=F.relu(F.max_pool2d(self.conv2_drop(self.conv2(x)),2))x=x.view(-1,320)x=F.relu(self.fc1(x))x=self.fc2(x)returnF.log_softmax(x,dim=1)model=Net().to(device)optimiser=optim.SGD(model.parameters(),lr=args.lr,momentum=args.momentum)ifargs.resume:model.load_state_dict(torch.load('model.pth'))optimiser.load_state_dict(torch.load('optimiser.pth'))

神經(jīng)網(wǎng)絡(luò)初始化一般包括變量、包含可訓(xùn)練參數(shù)的層級(jí)、可能獨(dú)立的可訓(xùn)練參數(shù)和不可訓(xùn)練的緩存器。隨后前向傳播將這些初始化參數(shù)與F中的函數(shù)結(jié)合，其中該函數(shù)為不包含參數(shù)的純函數(shù)。有些開發(fā)者喜歡使用完全函數(shù)化的網(wǎng)絡(luò)（如保持所有參數(shù)獨(dú)立，使用F.conv2d而不是nn.Conv2d），或者完全由layers函數(shù)構(gòu)成的網(wǎng)絡(luò)（如使用nn.ReLU而不是F.relu）。

在將device設(shè)置為GPU時(shí)，.to(device)是一種將設(shè)備參數(shù)（和緩存器）發(fā)送到GPU的便捷方式，且在將device設(shè)置為CPU時(shí)不會(huì)做任何處理。在將網(wǎng)絡(luò)參數(shù)傳遞給優(yōu)化器之前，把它們傳遞給適當(dāng)?shù)脑O(shè)備非常重要，不然的話優(yōu)化器不能正確地追蹤參數(shù)。

神經(jīng)網(wǎng)絡(luò)（nn.Module）和優(yōu)化器（optim.Optimizer）都能保存和加載它們的內(nèi)部狀態(tài)，而.load_state_dict(state_dict)是完成這一操作的推薦方法，我們可以從以前保存的狀態(tài)字典中加載兩者的狀態(tài)并恢復(fù)訓(xùn)練。此外，保存整個(gè)對(duì)象可能會(huì)出錯(cuò)。

這里沒(méi)討論的一些注意事項(xiàng)即前向傳播可以使用控制流，例如一個(gè)成員變量或數(shù)據(jù)本身能決定if語(yǔ)句的執(zhí)行。此外，在前向傳播的過(guò)程中打印張量也是可行的，這令debug更加簡(jiǎn)單。最后，前向傳播可以使用多個(gè)參數(shù)。以下使用間斷的代碼塊展示這一點(diǎn)：

defforward(self,x,hx,drop=False):

hx2=self.rnn(x,hx)

print(hx.mean().item(),hx.var().item())

ifhx.max.item()>10orself.can_dropanddrop:

returnhx

else:

returnhx2

訓(xùn)練

model.train()train_losses=[]fori,(data,target)inenumerate(train_loader):data,target=data.to(device),target.to(device)optimiser.zero_grad()output=model(data)loss=F.nll_loss(output,target)loss.backward()train_losses.append(loss.item())optimiser.step()ifi%10==0:print(i,loss.item())torch.save(model.state_dict(),'model.pth')torch.save(optimiser.state_dict(),'optimiser.pth')torch.save(train_losses,'train_losses.pth')

網(wǎng)絡(luò)模塊默認(rèn)設(shè)置為訓(xùn)練模式，這影響了某些模塊的工作方式，最明顯的是dropout和批歸一化。最好用.train()對(duì)其進(jìn)行手動(dòng)設(shè)置，這樣可以把訓(xùn)練標(biāo)記向下傳播到所有子模塊。

在使用loss.backward()收集一系列新的梯度以及用optimiser.step()做反向傳播之前，有必要手動(dòng)地將由optimiser.zero_grad()優(yōu)化的參數(shù)梯度歸零。默認(rèn)情況下，PyTorch會(huì)累加梯度，在單次迭代中沒(méi)有足夠資源來(lái)計(jì)算所有需要的梯度時(shí)，這種做法非常便利。

PyTorch使用一種基于tape的自動(dòng)化梯度（autograd）系統(tǒng)，它收集按順序在張量上執(zhí)行的運(yùn)算，然后反向重放它們來(lái)執(zhí)行反向模式微分。這正是為什么PyTorch如此靈活并允許執(zhí)行任意計(jì)算圖的原因。如果沒(méi)有張量需要做梯度更新（當(dāng)你需要為該過(guò)程構(gòu)建一個(gè)張量時(shí)，你必須設(shè)置requires_grad=True），則不需要保存任何圖。然而，網(wǎng)絡(luò)傾向于包含需要梯度更新的參數(shù)，因此任何網(wǎng)絡(luò)輸出過(guò)程中執(zhí)行的計(jì)算都將保存在圖中。因此如果想保存在該過(guò)程中得到的數(shù)據(jù)，你將需要手動(dòng)禁止梯度更新，或者，更常見的做法是將其保存為一個(gè)Python數(shù)（通過(guò)一個(gè)Python標(biāo)量上的.item()）或者NumPy數(shù)組。更多關(guān)于autograd的細(xì)節(jié)詳見官網(wǎng)文件。

截取計(jì)算圖的一種方式是使用.detach()，當(dāng)通過(guò)沿時(shí)間的截?cái)喾聪騻鞑ビ?xùn)練RNN時(shí)，數(shù)據(jù)流傳遞到一個(gè)隱藏狀態(tài)可能會(huì)應(yīng)用這個(gè)函數(shù)。當(dāng)對(duì)損失函數(shù)求微分（其中一個(gè)成分是另一個(gè)網(wǎng)絡(luò)的輸出）時(shí)，也會(huì)很方便。但另一個(gè)網(wǎng)絡(luò)不應(yīng)該用「loss-examples」的模式進(jìn)行優(yōu)化，包括在GAN訓(xùn)練中從生成器的輸出訓(xùn)練判別器，或使用價(jià)值函數(shù)作為基線（例如A2C）訓(xùn)練actor-critic算法的策略。另一種在GAN訓(xùn)練（從判別器訓(xùn)練生成器）中能高效阻止梯度計(jì)算的方法是在整個(gè)網(wǎng)絡(luò)參數(shù)上建立循環(huán)，并設(shè)置param.requires_grad=False，這在微調(diào)中也很常用。

除了在控制臺(tái)/日志文件里記錄結(jié)果以外，檢查模型參數(shù)（以及優(yōu)化器狀態(tài)）也是很重要的。你還可以使用torch.save()來(lái)保存一般的Python對(duì)象，但其它標(biāo)準(zhǔn)選擇還包括內(nèi)建的pickle。

測(cè)試

model.train()train_losses=[]fori,(data,target)inenumerate(train_loader):data,target=data.to(device),target.to(device)optimiser.zero_grad()output=model(data)loss=F.nll_loss(output,target)loss.backward()train_losses.append(loss.item())optimiser.step()ifi%10==0:print(i,loss.item())torch.save(model.state_dict(),'model.pth')torch.save(optimiser.state_dict(),'optimiser.pth')torch.save(train_losses,'train_losses.pth')

為了早點(diǎn)響應(yīng).train()，應(yīng)利用.eval()將網(wǎng)絡(luò)明確地設(shè)置為評(píng)估模式。

正如前文所述，計(jì)算圖通常會(huì)在使用網(wǎng)絡(luò)時(shí)生成。通過(guò)withtorch.no_grad()使用no_grad上下文管理器，可以防止這種情況發(fā)生。

其它

內(nèi)存有問(wèn)題？可以查看官網(wǎng)文件獲取幫助。

CUDA出錯(cuò)？它們很難調(diào)試，而且通常是一個(gè)邏輯問(wèn)題，會(huì)在CPU上產(chǎn)生更易理解的錯(cuò)誤信息。如果你計(jì)劃使用GPU，那最好能夠在CPU和GPU之間輕松切換。更普遍的開發(fā)技巧是設(shè)置代碼，以便在啟動(dòng)合適的項(xiàng)目（例如準(zhǔn)備一個(gè)較小/合成的數(shù)據(jù)集、運(yùn)行一個(gè)train+testepoch等）之前快速運(yùn)行所有邏輯來(lái)檢查它。如果這是一個(gè)CUDA錯(cuò)誤，或者你沒(méi)法切換到CPU，設(shè)置CUDA_LAUNCH_BLOCKING=1將使CUDA內(nèi)核同步啟動(dòng)，從而提供更詳細(xì)的錯(cuò)誤信息。

torch.multiprocessing，甚至只是一次運(yùn)行多個(gè)PyTorch腳本的注意事項(xiàng)。因?yàn)镻yTorch使用多線程BLAS庫(kù)來(lái)加速CPU上的線性代數(shù)計(jì)算，所以它通常需要使用多個(gè)內(nèi)核。如果你想一次運(yùn)行多個(gè)任務(wù)，在具有多進(jìn)程或多個(gè)腳本的情況下，通過(guò)將環(huán)境變量OMP_NUM_THREADS設(shè)置為1或另一個(gè)較小的數(shù)字來(lái)手動(dòng)減少線程，這樣做減少了CPUthrashing的可能性。官網(wǎng)文件還有一些其它注意事項(xiàng)，尤其是關(guān)于多進(jìn)程。

forward中文官網(wǎng)的介紹就聊到這里吧，感謝你花時(shí)間閱讀本站內(nèi)容，更多關(guān)于forward中文是什么意思、forward中文官網(wǎng)的信息別忘了在本站進(jìn)行查找哦。