0
0

15个节省时间的Jupyter技巧

Jupyter Notebooks使用非常简单并且对于任何面向python的任务都可以非常方便的使用。只要它的内核处于活动状态，就可以用数据子集运行和测试脚本，而不用每次重启程序，这样可以加快我们开发和测试的速度。

但是因为它太简单了，所以我们经常会犯一些错误，浪费我们的时间和计算成本。在这篇文章中，我们将讨论一些可以节省时间，降低计算成本的技巧。

1、魔法命令

在Jupyter notebook中，“魔法命令”是特殊的命令，不是Python语言的一部分，但可以使您的生活更轻松。这些命令前面有%符号。

魔法命令很有用，可以直接嵌入到python代码中，并解决常见问题，例如列出当前目录中的所有文件或更改当前工作目录。

下面是一些常见的魔术命令:

  • %run:在当前内核中运行Python脚本。
  • %load:从脚本中加载代码并在当前内核中运行。
  • %who:列出所有变量。
  • %timeit:记录一行代码的执行时间。
  • %debug:在异常处输入调试器。
  • %matplotlib inline:在notebook中显示图形。
  • %load_ext:加载扩展，例如IPython扩展。
  • %pwd:打印当前工作目录。
  • %ls:显示当前目录中的所有文件。

我们可以运行%lsmagic来查看所有magic命令的列表。

要获得有关特定魔术命令的更多信息，可以使用?操作符，例如%run?。

2、执行另一个Jupyter notebook文件

可以使用魔术命令来做一些有趣的事情。例如，从py文件中执行python代码，或从ipynb文件中执行jupyter notebook。

%run将执行jupyter notebook并显示输出，这与导入python模块不同。

我们可以运行two-histogram notebook并得到如下输出:

 %run ./two-histograms.ipynb

3、查看文档📓

通过高亮显示方法并按Shift + Tab键，可以轻松查看该方法的文档。它将显示编写函数时编写的文档字符串。你也可以通过点击右上角的+按钮来打开模态框。

还可以通过突出显示每个magic命令并按Shift + Tab键来获得有关每个magic命令的更多信息。

4、添加多个游标🖱

如果你需要重命名写在几个地方的变量，或者在编辑代码时，你希望你有多个光标。

在Jupyter notebooks中，可以使用多个光标同时编辑文本。如果你想一次对多行文本进行相同的更改，这可能很有用。

要在Jupyter notebook中使用多个游标，可以按住Alt键并单击所需的位置。这将在每个点击的位置创建一个游标。然后你可以像往常一样进行编辑，更改将同时应用于所有位置。

Windows:按住alt +左键并拖动光标。Mac:按住option键+左键拖动光标。

你也可以使用Shift + Alt +上/下箭头键组合来选择多行文本，并在每一行的开头创建一个光标。

记住，使用多个游标可能会产生问题，所以最好在使用这个功能之前保存好你的代码，以防你做了任何意想不到的更改。

5、从另一个外部python脚本中插入代码🗃

可以用外部python脚本替换单元格的内容。你可以使用计算机上的任何python文件，也可以使用URL作为源。

 # Before Running
 %load ./hello_world.py

在下一个单元格中可以使用：

 
 if __name__ == "__main__":
  print("Hello World!")
 
 Output
 Hello World!

6、运行CMD/Shell命令⌨

Jupyter notebook中使用!命令前的前缀可以运行操作系统的命令。例如，要列出当前目录下的文件，可以使用ls命令:

 !ls

你也可以通过在命令后面添加参数来传递参数。例如，要列出特定目录下的文件，可以使用-l选项以长格式显示文件，并将目录路径指定为参数:

 !ls -l /path/to/directory

你也可以将命令的输赋值给一个变量，并在代码中使用它。例如:

 files = !ls
 print(files)

上面代码会把当前目录中的文件列表分配给files变量，并打印出来。

你可以使用这种技术在Jupyter notebook中运行任何shell命令，只要该命令在运行notebook的系统中可用。

7、为程序完成设置闹钟⏰

当你的模型完成训练或任何任务时，得到一个通知总是很有帮助的。

在windows 10中，我们可以使用win10toast模块设置它。

 pip install win10toast

然后使用这段代码

 from win10toast import ToastNotifier
 toaster = ToastNotifier()
 
 #Your program
 
 toaster.show_toast("Execution complete",
                    "Your calculation completed",
                    duration=10)

我们在程序完成执行时为我们进行提示。

 import winsound
 
 # set an alarm of 440HZ for one second (1000ms)
 duration = 1000
 freq = 440
 
 winsound.Beep(freq, duration)

Mac和Linux可以使用os模块，使用afplay命令(在macOS上)或aplay命令(在Linux上)播放声音。

 import os
 
 # Run your program here
 # Play a sound when the program completes
 os.system("afplay /path/to/sound.mp3")  # macOS
 os.system("aplay /path/to/sound.wav")  # Linux

可以将/path/to/sound.mp3替换为要播放的声音文件的路径。或者是afplay或aplay命令支持的任何音频文件，如MP3、WAV或AIFF。

只有在运行Jupyter notebook的系统上有afplay或aplay命令时，此方法才有效。

在Mac中，还可以使用内置命令say，在程序完成时说一些话。

 import os
 
 os.system('say "hi siri"')

8、显示执行时间⏱️

要在Jupyter notebook中测量单元格的执行时间，可以使用%timeit魔法命令。此命令将执行单个语句并返执行时间。下面是如何使用%timeit的例子:

 %timeit sum(range(100))

这将计算sum函数的执行时间，并返回执行该函数所需的平均时间。

还可以使用%%timeit来测量整个单元格的执行时间:

 %%timeit
 
 total = 0
 for i in range(1000):
     total += i

可以看到上面的代码与我们使用使用Python中的time模块的结果类似

 import time
 
 start_time = time.time()
 
 # code to measure
 sum(range(100))
 
 end_time = time.time()
 
 elapsed_time = end_time - start_time
 print(f'Execution time: {elapsed_time:.2f} seconds')

注意:这些方法只会测量单元格中代码的执行时间。如果计算单元依赖于其他计算单元或外部资源，则执行时间将不包括执行这些依赖项所需的时间。

9、在notebook之间传递变量

在Jupyter notebook中，%store魔法命令可以在notebook之间传递变量。

下面是一个使用它的例子:

 
 var1 = 10
 %store var1

在另外一个notebook中可以用下面命令获得变量的值

 %store -r var1
 print(var1)

%store魔法命令有以下几个操作

%store var1:存储变量var1

%store -r var1:检索存储的变量var1，并将其赋值给当前笔记本中同名的变量

%store -d var1:删除已存储的变量var1

%store -z:删除所有已存储的变量

你也可以使用一个%store命令存储多个值，如

 %store var1 var2

%store命令仅在相同的Jupyter会话中有效。

%store命令的值在内核重启后也是可以访问的，看看下面这个例子。

10、列出所有键盘快捷键⌨

学习键盘快捷键将节省你大量的时间。我们可以在顶部菜单下:帮助>键盘快捷键检查它们，或在命令模式下按H键来查看。以下是Jupyter notebook中一些常用的键盘快捷键列表:

  • Enter:当前单元格进入编辑模式
  • Esc:当前单元格进入命令模式
  • Shift + Enter:运行当前单元格并移动到下一个单元格
  • Ctrl + Enter:运行当前单元格
  • Alt + Enter:运行当前单元格并在下面插入一个新单元格
  • Shift + Tab:显示当前函数或对象的文档
  • Ctrl + S:保存
  • A:在当前单元格的上方插入一个新单元格(在命令模式下)
  • B:在当前单元格下面插入一个新单元格(在命令模式下)
  • M:将当前单元格更改为Markdown单元格(在命令模式下)
  • Y:将当前单元格更改为代码单元格(在命令模式下)
  • D + D:删除当前单元格(在命令模式下)
  • Z:撤销最后一次删除单元格(在命令模式下)
  • X:切割选定的单元格(在命令模式下)
  • C:复制选中的单元格(在命令模式下)
  • V:粘贴选中的单元格(在命令模式下)
  • Ctrl + Shift + -将当前单元格从光标所在的位置拆分成两个。(在命令模式下)
  • Esc + F:找到并替换你的代码，但不替换输出。(在命令模式下)
  • Esc + O:切换单元格输出(在命令模式下)

选择多个单元格:

  • Shift + Down选择向下方向的下一个单元格。
  • Shift + Up选择向上方向的下一个单元格。(在命令模式下)
  • Shift + M:合并多个选定单元格。(在命令模式下)

还可以使用%shortcuts魔术命令查看当前单元格输出区域的键盘快捷键列表:

 %shortcuts

这将显示所有快捷键及其相应操作的列表。

11、隐藏不必要的输出

当你从Jupyter notebook创建报告时，看到不必要的内存代码或对象id是很烦人的。要将这些不必要的输出隐藏在起来可以使用 分号 ；

看看下面代码：

如果想屏蔽matplotlib的输出，看看下面代码，注意后面的分号:

 plt.plot(x,y);

12、使用python以外的其他语言编写函数

如果你正在处理大量的大型数据集，并且numpy的速度不够快，那么你可以直接在python代码中直接编写一些c或fortran代码。

如果你想开始用c编写函数，那么你将需要cython库。

 !pip install Cython

加载和使用：

 %load_ext Cython
 
 %%cython
 def myltiply_by_2(float x):
 return 2.0 * x
 
 myltiply_by_2(23.)

要编写fortran函数，则需要另一个库fortrain-magic。

 !pip install fortran-magic

代码如下：

 %load_ext fortranmagic
 
 %%fortran subroutine compute_fortran(x, y, z)
 real, intent(in) :: x(:), y(:)
 real, intent(out) :: z(size(x, 1))
 z = sin(x + y)
 end subroutine compute_fortran
 
 compute_fortran([1, 2, 3], [4, 5, 6])

13、扩展pandas输出中的列数和行数

默认情况下，panda的dataframe只能显示有限数量的行和列。有几种方法可以扩展Jupyter Notebook中pandas DataFrame中显示的行和列的数量。

方法1:使用pd.options.display.max_rows和pd.options.display.max_columns选项。

例如要显示最多100行50列，可以使用以下代码:

 import pandas as pd
 
 pd.options.display.max_rows = 100
 pd.options.display.max_columns = 50

方法2:使用pd.set_option函数设置这些选项。例如:

 pd.set_option("display.max_rows", 100)
 pd.set_option("display.max_columns", 50)

或者可以使用head和tail方法来显示DataFrame的前几行或后几行。例如:

 df.head(10)
 df.tail(5)

方法3:使用IPython中的IPython.display模块控制显示。例如:

 from IPython.display import display
 
 display(df, max_rows=100, max_columns=50)

这将显示100行50列的DataFrame。

14、提取输入和输出单元数据

当你执行完一个单元格时，你意识到忘记给一个变量赋值，那怎么办呢？

我们在jupyter notebook中执行单元格时，它将分配一个行号为ln:

当单元格完成执行时，我们会得到一个输出并且可以通过传递执行编号作为索引来访问它

Out是一个python字典，存储单元格的所有输出。我们可以使用编号作为索引来访问输出。

15、导出单元格的内容📝

当完成jupyter的测试我们可能会想将jupyter单元中内容导出到python文件中。最简单的办法是创建一个py文件并复制粘贴代码，但这很明显不是最好的方法。

%%writefile是一个Jupyter Notebook魔法命令，可以将单元格的内容保存为Python文件。例如在单元格中有以下代码:

 %%writefile example.py
 def add(a, b):
     return a + b
 print(add(3, 4))

你可以运行单元格后将在Jupyter Notebook所在的目录中创建一个名为example.py的文件，文件内容就是单元格内的python代码

%pycat是另外一个Jupyter Notebook魔法命令，它在Notebook的单元格中显示Python文件的内容。如果在单元格中有以下代码:

 %pycat example.py

它将在单元格的输出中显示example.py文件的内容。这对于快速查看Python文件的内容非常有用。

总结

以上就是我们总结的一些技巧，希望对你有所帮助。

作者：Anup Das

标签： 机器学习 数据分析 Jupyter
登录后发布评论

“15个节省时间的Jupyter技巧”的评论:

还没有评论
关于作者
...
Deephub
更多文章请关注公众号：Deephub-IMBA
相关阅读

开源向量数据库比较：Chroma, Milvus, Faiss,Weaviate

微软Phi-3，3.8亿参数能与Mixtral 8x7B和GPT-3.5相媲美，量化后还可直接在IPhone中运行

Barnes-Hut t-SNE:大规模数据的高效降维算法

5种搭建LLM服务的方法和代码示例

使用ORPO微调Llama 3

掌握时间序列特征工程：常用特征总结与 Feature-engine 的应用

RAG 2.0架构详解：构建端到端检索增强生成系统

文章导航