中国网建设频道网站logo/网络营销五种方法

这是练习深度学习的好时机。现有的主要深度学习框架如TensorFlow、Keras和PyTorch正在逐渐成熟，并提供了许多功能来简化深度学习过程。深度学习从业者还有其他出色的工具集。其中之一是Google Colaboratory环境。该环境基于Python Jupyter笔记本，使用户可以免费访问Tesla K80 GPU。如果您的本地计算机缺少GPU，则现在无需在Amazon AWS上租用GPU时间，至少是为了进行较小的学习任务的原型设计。这开启了任何人在MNIST等简单数据集之外进行深度学习的能力。谷歌最近也开放了在环境中免费使用TPU（Tensor Processing Units）。
免费访问GPU和TPU只是Google Colaboratory的一个好处。本文将探讨环境的功能，并向您展示如何有效地将其用作深度学习的“家庭基础”。我还将运行一个在TensorFlow中构建的示例CIFAR10分类器来演示它的用法。可以在此处找到本教程的Google Colaboratory笔记本。

Google Colaboratory基础知识
Google Colaboratory基于Jupyter笔记本电脑的设计和操作范例。我不会回顾Jupyter是如何工作的，因为我想大多数Python和TensorFlow用户已经知道这个包。要访问该环境，您必须拥有Google云端硬盘帐户并登录。您创建的.ipynb文件将保存在您的Google云端硬盘帐户中。
打开新文件后，首先要做的是重命名文件（文件 - >重命名）并设置运行环境（即是否使用标准CPU、GPU或TPU）。每当您更改运行环境时，当前笔记本会话将重新启动 - 因此最好先执行此操作。为此，请转到运行时 - >更改运行时类型。
Google Colaboratory最重要和最有用的组件之一是能够与他人共享您的笔记本，并允许其他人对您的工作发表评论。可以在屏幕右上角的“共享和注释”按钮中查看执行此操作的功能，如下所示：

注释功能允许用户对笔记本中的各个单元格进行注释，这对远程协作非常有用。
可以将每个单元选择为“代码”单元或“文本”单元。 文本单元允许开发人员创建围绕代码的注释，这有助于解释正在发生的事情或创建各种算法的文档类实现。 这与标准的Jupyter笔记本电脑类似。
本地bash命令也可以从单元格运行，它们与作为会话一部分创建的虚拟机（VM）进行交互。 例如，要安装将在本简介后面使用的PyDrive软件包，请直接执行以下操作之一：

!pip install -U -q PyDrive

这将在VM上运行普通的pip安装命令并安装PyDrive软件包。需要注意的一件重要事情是，Google Colaboratory将在一段时间不活动后超时并清除您的会话环境。这是为其他用户释放VM空间。因此，在某些情况下，可能需要在每次笔记本开头运行一系列pip安装命令，以便为您的特定用途准备好本地环境。但是，深度学习检查点，数据和结果摘要可以导出到具有永久存储的各种其他位置，例如Google Drive，本地硬盘驱动器等。
您还可以运行其他常见的LINUX命令，例如ls，mkdir，rmdir和curl。通过运行！ls bin可以找到Google Colaboratory上可用的更全面的bash命令和功能列表。
现在已经涵盖了这些基础知识，现在是时候研究如何在Google Collaboratory中访问TensorBoard。

访问TensorBoard
TensorBoard是TensorFlow的一个有用的可视化工具，有关如何使用它的更多详细信息，请参阅我之前的帖子。可以通过调用在训练过程中或之后编写的日志文件来访问它。在我看来，在训练期间访问这些文件是最有用的，这样可以观察您当前的方法是否产生结果。在PC上很容易调用TensorBoard服务器并通过网络浏览器访问，但这不能在Google Colaboratory中直接进行。
然而，有一个简单的解决方案 - ngrok。此程序包通过防火墙和其他网络阻止限制创建安全隧道，并允许访问公共Internet。要下载并安装ngrok到Google Colaboratory，请运行以下命令：

!wget https://bin.equinox.io/c/4VmDzA7iaHb/ngrok-stable-linux-amd64.zip
!unzip ngrok-stable-linux-amd64.zip

下一步是以通常的方式创建TensorBoard会话。 要在Google Colaboratory中执行此操作，可以运行以下命令：

LOG_DIR = './log'
get_ipython().system_raw('tensorboard --logdir {} --host 0.0.0.0 --port 6006 &'.format(LOG_DIR)
)

get_ipython（）命令允许用户访问IPython命令，system_raw（）在本机命令提示符/终端中执行命令。 传递给system_raw（）的字符串参数启动TensorBoard会话，该会话在LOG_DIR中搜索日志文件，并在端口6006上运行。
下一步是执行ngrok并打印出将用户带到TensorBoard门户的链接：

get_ipython().system_raw('./ngrok http 6006 &')
! curl -s http://localhost:4040/api/tunnels | python3 -c "import sys, json; print(json.load(sys.stdin)['tunnels'][0]['public_url'])"

上面的第一行通过http协议启动ngrok隧道到端口6006 - 可以访问TensorBoard的相同端口。 第二行是复杂的卷曲命令。 Linux中的curl命令用于运行http请求。 在这种情况下，正在请求“http：// localhost：4040 / api / tunnels”。 这是一个本地运行的ngrok API，其中包含有关正在运行的隧道的信息。
然后，从该curl http请求接收的信息将通过Linux管道“|”运算符发送到本地Python 3应用程序。 结果通过sys.stdin以json格式进入Python - 并且已创建的隧道的公共URL将打印到屏幕。 运行此命令将在Google Colaboratory中返回一个类似于以下内容的URL：

https://712a59dd.ngrok.io

点击Google Colaboratory中的链接会将您的浏览器发送到TensorBoard门户网站。所以现在你可以在Google Colaboratory中使用TensorBoard - 这非常方便。
接下来我们将关注保存模型并从Google云端硬盘加载文件 - 这是使用Google Colaboratory时检查点和恢复模型的最简单方法。

在Google Colaboratory中保存和恢复文件
在这篇文章中，我将介绍在Google Colaboratory中处理文件的两种方法，我认为这些方法最常用。要处理的文件通常包括训练或测试数据，以及保存的模型数据（即检查点或完全训练的模型数据）。
在Google Colaboratory中加载和下载文件的最简单方法是使用内置的文件夹结构浏览器。单击菜单中的视图 - >目录将启动左侧窗格/菜单。在此窗格的顶部，将出现一个名为“文件”的选项卡 - 选择此选项将显示当前运行时会话的文件结构，您可以从本地PC上载和下载该文件结构。
或者，可以通过运行以下命令以编程方式执行此操作：

from google.colab import files
uploaded = files.upload()

上面的代码将启动一个对话框，允许您导航到本地文件以上传到您的会话。 以下代码将指定的文件下载到PC上的下载区域（如果您使用的是Windows）：

files.download("downloaded_weights.12-1.05.hdf5")

到现在为止还挺好。但是，这是一种非常手动的文件播放方式。这在训练期间是不可能的，因此使用此方法将检查点存储在Google Colaboratory的本地驱动器中是不可行的。另一个问题是当您在Google Colaboratory上运行长期训练课程时。如果您的训练结束并且您暂时不与控制台交互（即，您在训练结束时进行了一夜训练并且您已经睡着了），您的运行时将自动结束并释放以释放资源。
不幸的是，这意味着您还将失去所有培训进度和模型数据。换句话说，能够在训练时以编程方式存储文件/检查点非常重要。在下面的示例中，我将向您展示如何设置一个自动将检查点存储到您的Google云端硬盘帐户的培训回调，然后可以将其下载并稍后再次使用。我将在训练TensorFlow / Keras模型来分类CIFAR-10图像的背景下进行演示。有关详细信息，请参阅我的教程或我的书。

到现在为止还挺好。但是，这是一种非常手动的文件播放方式。这在训练期间是不可能的，因此使用此方法将检查点存储在Google Colaboratory的本地驱动器中是不可行的。另一个问题是当您在Google Colaboratory上运行长期训练课程时。如果您的训练结束并且您暂时不与控制台交互（即，您在训练结束时进行了一夜训练并且您已经睡着了），您的运行时将自动结束并释放以释放资源。

不幸的是，这意味着您还将失去所有培训进度和模型数据。换句话说，能够在训练时以编程方式存储文件/检查点非常重要。在下面的示例中，我将向您展示如何设置一个自动将检查点存储到您的Google云端硬盘帐户的培训回调，然后可以将其下载并稍后再次使用。我将在训练TensorFlow / Keras模型来分类CIFAR-10图像的背景下进行演示。有关详细信息，请参阅我的教程或我的书。

使用Keras和回调的文件保存示例
首先，我将向您展示所需的导入，使用Dataset API进行数据准备，然后是Keras模型开发。我不会解释这些，因为前面提到的教程中概述了详细信息，因此如果您想更好地理解模型，请检查一下。我们将使用PyDrive软件包与Google云端硬盘进行所有通话，因此首先您必须在会话中安装它：

!pip install -U -q PyDrive

原文链接来自特拉字节：