jlzzjlzz亚洲乱熟在线播放

系統城裝機大師 - 唯一官網:www.farandoo.com!

當前位置:首頁 > 腳本中心 > python > 詳細頁面

簡述python&pytorch 隨機種子的實現

時間:2020-10-07來源:www.farandoo.com作者:電腦系統城

隨機數廣泛應用在科學研究, 但是計算機無法產生真正的隨機數, 一般成為偽隨機數. 它的產生過程: 給定一個隨機種子(一個正整數), 根據隨機算法和種子產生隨機序列. 給定相同的隨機種子, 計算機產生的隨機數列是一樣的(這也許是偽隨機的原因).

隨機種子是什么?

隨機種子是針對隨機方法而言的。

隨機方法:常見的隨機方法有 生成隨機數,以及其他的像 隨機排序 之類的,后者本質上也是基于生成隨機數來實現的。在深度學習中,比較常用的隨機方法的應用有:網絡的隨機初始化,訓練集的隨機打亂等。

隨機種子的取值范圍?

可以是任意數字,如10,1000

python random

下面以python的random函數為例, 做了一個測試.

在這里插入圖片描述

當用戶未指定隨機種子, 系統默認隨機生成, 一般與系統當前時間有關.用戶指定隨機種子后, 使用隨機函數產生的隨機數可以復現.種子確定后, 每次使用隨機函數相當于從隨機序列去獲取隨機數, 每次獲取的隨機數是不同的.

pytorch

使用pytorch復現效果時, 總是無法做到完全的復現. 同一份代碼運行兩次, 有時結果差異很大. 這是由于算法中的隨機性導致的. 要想每次獲得的結果一致, 必須固定住隨機種子. 首先, 我們需要找到算法在哪里使用了隨機性, 再相應的固定住隨機種子.

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
def seed_torch():
    seed = 1024 # 用戶設定
 # seed = int(time.time()*256)
 # 保存隨機種子
 with open('seed.txt', 'w') as f:
  f.write(str(seed))
 random.seed(seed)
 os.environ['PYTHONHASHSEED'] = str(seed)
 np.random.seed(seed)
 torch.manual_seed(seed)
 torch.cuda.manual_seed(seed)
 torch.cuda.manual_seed_all(seed)
 torch.backends.cudnn.benchmark = False
 torch.backends.cudnn.deterministic = True
seed_torch()

上面的代碼固定了pytorch常用的隨機種子, 但是如果你在預處理中涉及了隨機性, 也需要固定住.

為了復現結果, 我們固定住了隨機種子. 但pytorch訓練模型時, 不同的隨機種子會產生不同的結果. 每次使用固定的隨機種子, 可能錯失好的結果. 為此, 我們可以每次使用不一樣的隨機種子, 并保存下來

 到此這篇關于簡述python&pytorch 隨機種子的實現的文章就介紹到這了,更多相關pytorch 隨機種子內容請搜索腳本之家以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持腳本之家!

分享到:

相關信息

系統教程欄目

欄目熱門教程

人氣教程排行

站長推薦

熱門系統下載