05 | 深入浅出字符串

你好，我是景霄。

Python的程序中充满了字符串（string），在平常阅读代码时也屡见不鲜。字符串同样是Python中很常见的一种数据类型，比如日志的打印、程序中函数的注释、数据库的访问、变量的基本操作等等，都用到了字符串。

当然，我相信你本身对字符串已经有所了解。今天这节课，我主要带你回顾一下字符串的常用操作，并对其中的一些小tricks详细地加以解释。

字符串基础

什么是字符串呢？字符串是由独立字符组成的一个序列，通常包含在单引号（''）双引号（""）或者三引号之中（''' '''或""" """，两者一样），比如下面几种写法。

name = 'jason'
city = 'beijing'
text = "welcome to jike shijian"

这里定义了name、city和text三个变量，都是字符串类型。我们知道，Python中单引号、双引号和三引号的字符串是一模一样的，没有区别，比如下面这个例子中的s1、s2、s3完全一样。

s1 = 'hello'
s2 = "hello"
s3 = """hello"""
s1 == s2 == s3
True

Python同时支持这三种表达方式，很重要的一个原因就是，这样方便你在字符串中，内嵌带引号的字符串。比如：

"I'm a student"

Python的三引号字符串，则主要应用于多行字符串的情境，比如函数的注释等等。

def calculate_similarity(item1, item2):
    """
    Calculate similarity between two items
    Args:
        item1: 1st item
        item2: 2nd item
    Returns:
      similarity score between item1 and item2
    """

同时，Python也支持转义字符。所谓的转义字符，就是用反斜杠开头的字符串，来表示一些特定意义的字符。我把常见的的转义字符，总结成了下面这张表格。

为了方便你理解，我举一个例子来说明。

s = 'a\nb\tc'
print(s)
a
b	c

这段代码中的'\n'，表示一个字符——换行符；'\t'也表示一个字符——横向制表符。所以，最后打印出来的输出，就是字符a，换行，字符b，然后制表符，最后打印字符c。不过要注意，虽然最后打印的输出横跨了两行，但是整个字符串s仍然只有5个元素。

len(s)
5

在转义字符的应用中，最常见的就是换行符'\n'的使用。比如文件读取，如果我们一行行地读取，那么每一行字符串的末尾，都会包含换行符'\n'。而最后做数据处理时，我们往往会丢掉每一行的换行符。

字符串的常用操作

讲完了字符串的基本原理，下面我们一起来看看字符串的常用操作。你可以把字符串想象成一个由单个字符组成的数组，所以，Python的字符串同样支持索引，切片和遍历等等操作。

name = 'jason'
name[0]
'j'
name[1:3]
'as'

和其他数据结构，如列表、元组一样，字符串的索引同样从0开始，index=0表示第一个元素（字符），[index:index+2]则表示第index个元素到index+1个元素组成的子字符串。

遍历字符串同样很简单，相当于遍历字符串中的每个字符。

for char in name:
    print(char)   
j
a
s
o
n

特别要注意，Python的字符串是不可变的（immutable）。因此，用下面的操作，来改变一个字符串内部的字符是错误的，不允许的。

s = 'hello'
s[0] = 'H'
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
TypeError: 'str' object does not support item assignment

Python中字符串的改变，通常只能通过创建新的字符串来完成。比如上述例子中，想把'hello'的第一个字符'h'，改为大写的'H'，我们可以采用下面的做法：

s = 'H' + s[1:]
s = s.replace('h', 'H')

第一种方法，是直接用大写的'H'，通过加号'+'操作符，与原字符串切片操作的子字符串拼接而成新的字符串。
第二种方法，是直接扫描原字符串，把小写的'h'替换成大写的'H'，得到新的字符串。

你可能了解到，在其他语言中，如Java，有可变的字符串类型，比如StringBuilder，每次添加、改变或删除字符（串），无需创建新的字符串，时间复杂度仅为O(1)。这样就大大提高了程序的运行效率。

但可惜的是，Python中并没有相关的数据类型，我们还是得老老实实创建新的字符串。因此，每次想要改变字符串，往往需要O(n)的时间复杂度，其中，n为新字符串的长度。

你可能注意到了，上述例子的说明中，我用的是“往往”、“通常”这样的字眼，并没有说“一定”。这是为什么呢？显然，随着版本的更新，Python也越来越聪明，性能优化得越来越好了。

这里，我着重讲解一下，使用加法操作符'+='的字符串拼接方法。因为它是一个例外，打破了字符串不可变的特性。

操作方法如下所示：

str1 += str2  # 表示str1 = str1 + str2

我们来看下面这个例子：

s = ''
for n in range(0, 100000):
    s += str(n)

你觉得这个例子的时间复杂度是多少呢？

每次循环，似乎都得创建一个新的字符串；而每次创建一个新的字符串，都需要O(n)的时间复杂度。因此，总的时间复杂度就为O(1) + O(2) + … + O(n) = O(n^2)。这样到底对不对呢？

乍一看，这样分析确实很有道理，但是必须说明，这个结论只适用于老版本的Python了。自从Python2.5开始，每次处理字符串的拼接操作时（str1 += str2），Python首先会检测str1还有没有其他的引用。如果没有的话，就会尝试原地扩充字符串buffer的大小，而不是重新分配一块内存来创建新的字符串并拷贝。这样的话，上述例子中的时间复杂度就仅为O(n)了。

因此，以后你在写程序遇到字符串拼接时，如果使用’+='更方便，就放心地去用吧，不用过分担心效率问题了。

另外，对于字符串拼接问题，除了使用加法操作符，我们还可以使用字符串内置的join函数。string.join(iterable)，表示把每个元素都按照指定的格式连接起来。

l = []
for n in range(0, 100000):
    l.append(str(n))
l = ' '.join(l)

由于列表的append操作是O(1)复杂度，字符串同理。因此，这个含有for循环例子的时间复杂度为n*O(1)=O(n)。

接下来，我们看一下字符串的分割函数split()。string.split(separator)，表示把字符串按照separator分割成子字符串，并返回一个分割后子字符串组合的列表。它常常应用于对数据的解析处理，比如我们读取了某个文件的路径，想要调用数据库的API，去读取对应的数据，我们通常会写成下面这样：

def query_data(namespace, table):
    """
    given namespace and table, query database to get corresponding
    data         
    """

path = 'hive://ads/training_table'
namespace = path.split('//')[1].split('/')[0] # 返回'ads'
table = path.split('//')[1].split('/')[1] # 返回 'training_table'
data = query_data(namespace, table)

此外，常见的函数还有：

string.strip(str)，表示去掉首尾的str字符串；
string.lstrip(str)，表示只去掉开头的str字符串；
string.rstrip(str)，表示只去掉尾部的str字符串。

这些在数据的解析处理中同样很常见。比如很多时候，从文件读进来的字符串中，开头和结尾都含有空字符，我们需要去掉它们，就可以用strip()函数：

s = ' my name is jason '
s.strip()
'my name is jason'

当然，Python中字符串还有很多常用操作，比如，string.find(sub, start, end)，表示从start到end查找字符串中子字符串sub的位置等等。这里，我只强调了最常用并且容易出错的几个函数，其他内容你可以自行查找相应的文档、范例加以了解，我就不一一赘述了。

字符串的格式化

最后，我们一起来看看字符串的格式化。什么是字符串的格式化呢？

通常，我们使用一个字符串作为模板，模板中会有格式符。这些格式符为后续真实值预留位置，以呈现出真实值应该呈现的格式。字符串的格式化，通常会用在程序的输出、logging等场景。

举一个常见的例子。比如我们有一个任务，给定一个用户的userid，要去数据库中查询该用户的一些信息，并返回。而如果数据库中没有此人的信息，我们通常会记录下来，这样有利于往后的日志分析，或者是线上bug的调试等等。

我们通常会用下面的方法来表示：

print('no data available for person with id: {}, name: {}'.format(id, name))

其中的string.format()，就是所谓的格式化函数；而大括号{}就是所谓的格式符，用来为后面的真实值——变量name预留位置。如果id = '123'、name='jason'，那么输出便是：

'no data available for person with id: 123, name: jason'

这样看来，是不是非常简单呢？

不过要注意，string.format()是最新的字符串格式函数与规范。自然，我们还有其他的表示方法，比如在Python之前版本中，字符串格式化通常用%来表示，那么上述的例子，就可以写成下面这样：

print('no data available for person with id: %s, name: %s' % (id, name))

其中%s表示字符串型，%d表示整型等等，这些属于常识，你应该都了解。

当然，现在你写程序时，我还是推荐使用format函数，毕竟这是最新规范，也是官方文档推荐的规范。

也许有人会问，为什么非要使用格式化函数，上述例子用字符串的拼接不也能完成吗？没错，在很多情况下，字符串拼接确实能满足格式化函数的需求。但是使用格式化函数，更加清晰、易读，并且更加规范，不易出错。

总结

这节课，我们主要学习了Python字符串的一些基本知识和常用操作，并且结合具体的例子与场景加以说明，特别需要注意下面几点。

Python中字符串使用单引号、双引号或三引号表示，三者意义相同，并没有什么区别。其中，三引号的字符串通常用在多行字符串的场景。
Python中字符串是不可变的（前面所讲的新版本Python中拼接操作’+='是个例外）。因此，随意改变字符串中字符的值，是不被允许的。
Python新版本（2.5+）中，字符串的拼接变得比以前高效了许多，你可以放心使用。
Python中字符串的格式化（string.format）常常用在输出、日志的记录等场景。

思考题

最后，给你留一道思考题。在新版本的Python（2.5+）中，下面的两个字符串拼接操作，你觉得哪个更优呢？欢迎留言和我分享你的观点，也欢迎你把这篇文章分享给你的同事、朋友。

s = ''
for n in range(0, 100000):
    s += str(n)

l = []
for n in range(0, 100000):
    l.append(str(n))
    
s = ' '.join(l)

精选留言

Jingxiao

2019-05-20 15:49:01

关于思考题，如果字符串拼接的次数较少，比如range(100)，那么方法一更优，因为时间复杂度精确的来说第一种是O(n)，第二种是O(2n)，如果拼接的次数较多，比如range(1000000)，方法二稍快一些，虽然方法二会遍历两次，但是join的速度其实很快，列表append和join的开销要比字符串+=小一些。
古明地觉

2019-05-20 10:35:18

思考题：个人提一个更加pythonic，更加高效的办法
s = " ".join(map(str, range(0, 10000)))

作者回复

👍

2019-05-20 15:09:24
刘朋

2019-05-20 19:54:26

# 测试 1000 条数据，方式一
import time
start_time = time.perf_counter()
s = ''
for n in range(0, 1000):
s += str(n)
end_time = time.perf_counter()
print('Time elapse: {}'.format(end_time - start_time))
返回结果: Time elapse: 0.0004374515265226364

# 测试 1000 条数据，方式二
import time
start_time = time.perf_counter()
s = []
for n in range(0, 1000):
s.append(str(n))
''.join(s)
end_time = time.perf_counter()
print('Time elapse: {}'.format(end_time - start_time))
返回结果: Time elapse: 0.0004917513579130173

# 测试 1000 条数据，方式三
import time
start_time = time.perf_counter()
s = ''.join(map(str, range(0, 1000)))
end_time = time.perf_counter()
print('Time elapse: {}'.format(end_time - start_time))
返回结果：Time elapse: 0.00021015387028455734

分别测试一百万和一千万条数据，结果如下：
100万:
方式一：Time elapse: 0.3384760869666934
方式二：Time elapse: 0.34538754168897867
方式三：Time elapse: 0.2445415174588561

1000万：
方式一：Time elapse: 4.24716751743108
方式二：Time elapse: 3.1754934675991535
方式三：Time elapse: 2.2939002392813563

综上，方式三性能最优，其次是在超过1000万条数据以上时，方式二优于方式一，相反，方式一优于方式二。
LJK

2019-05-20 03:01:42

最新的f""用法了解一下？
Geek_morty137

2019-05-20 09:02:23

%format形式在东西多了以后比较费事，结构冗长，会导致错误，比如不能正确显示元组或字典。幸运的是，未来有更光明的日子。
str.format格式相对好一些，但参数多了或者处理更长字符串时还是冗长。
f-string这种方式可以更加简化表达过程。还支持大小写（f.或者F.）

作者回复

👍

2019-05-20 15:10:41
Wing·三金

2019-05-20 10:55:06

直观上看似乎第二种方法的复杂度高一倍，但实际运行了下，第二种方法效率略高，当调高到50万的时候第二种的效率比第一种高出两倍以上。

作者回复

哈哈，对的。
如果字符串拼接的次数较少时，用+=更快，但是如果次数很大时，join稍快一些

2019-05-20 15:07:30
ssikiki

2019-05-21 10:53:45

使用加法操作符'+='的字符串拼接方法。因为它是一个例外 ... 可是
x = 'a'
id(x) # 4345659208
x += 'b'
id(x) # 4376614424
做完+=操作后， x的内存地址变了，说明新生成了字符串，请问老师这为什么说是例外？
Python高效编程

2019-05-20 08:26:25

新版本的 f-string性能更好，但容易把环境变量写进字符串。
farFlight

2019-05-20 02:34:46

这两个操作实际上时间相差无几，我把循环次数提高到一百万次还是伯仲之间。
另外请问老师python中对字符串采用 is 对比的问题。
比如代码：
a = 'string'
b = 'string'
a is b
将返回True
而
a = 'string'
a += '1'
b = 'string1'
a is b
则返回False
这个怎么解释比较好呢？为何第一个例子中a,b会指向同一个object呢？

作者回复

第一个例子中，'string'这个字符串对象只创建了一次，并同时被变量a和b指向，因此a is b返回True。

第二个例子中刚开始初始化的时候a和b的id就是不一样的，a is b就是False啊

2019-05-20 15:06:29
路伴友行

2019-05-20 20:26:45

哦，+= 每次都会扩容，而 [] 不会每次扩容
铁皮

2019-05-20 11:01:10

import time

start_time = time.perf_counter()
s = ''
for n in range(0, 100000):
s += str(n)
end_time = time.perf_counter()

print('time elapse: {}'.format(end_time - start_time))

start_time = time.perf_counter()
l = []
for n in range(0, 100000):
l.append(str(n))

l = ' '.join(l)
end_time = time.perf_counter()
print('join time elapse: {}'.format(end_time - start_time))

start_time = time.perf_counter()
s = " ".join(map(str, range(0, 100000)))
end_time = time.perf_counter()
print('map time elapse: {}'.format(end_time - start_time))

结果：
time elapse: 0.12365277000000008
join time elapse: 0.10721922699999997
map time elapse: 0.053512809999999966

看有人留言说s = " ".join(map(str, range(0, 100000))) 更高效。确实是
夜路破晓

2019-05-21 10:01:16

想问下目前有没有建群，因为想通过多了解些，比如读完这篇关于字符串的介绍，我想跟小伙伴们讨论下关于新版本f-string。
作为一个刚入门半年的新手来说，其实采用格式化方式其实区别不大，但就我个人而言，在学习理解的过程中，新版本更加高效易懂。
满心

2020-10-27 17:13:17

关于思考题，我的理解。方法1的复杂度是O(N)，方法二的复杂度是2O(N)。数据量小的情况下，根据复杂度，方法1的效率高一些；数据量大的情况下，方法2的效率高一些。原因是join可以预先计算出字符串的大小，只需要分配一次内存；使用+=每次都会先尝试原地扩容，如果不能原地扩容就需要重新分配内存，这在数据量大的情况下会造成性能降低。那么问题来了，方法2中也有数组的append操作，这在数据量大情况下也会有内存分配的问题。但是数组每次分配内存都会在原来的容量基础上*2，但是字符串的+=操作每次只会按需扩容，所以数组的内存分配次数要比字符串的少好多。

以上是我的理解，希望得到老师的指点，谢谢
黑铁打野王

2019-05-20 09:41:35

既然是提升，能不能讲一下Python解释器对于String类型内存分配的知识？

作者回复

你好！这方面的内容你有兴趣可以自己去了解一下（google或者源码）。我的想法是专栏的内容还是实用为主，这种知识属于比较偏的了，工程当中用的很少，所以这里可能会省略

2019-05-20 14:48:07
TKbook

2019-05-20 09:36:42

第一个更优。另外python3.6以后还有一个新的字符串格式化用法更高效。。print('no data available for person with id: {id}, name: {name}')
豊

2019-05-20 09:16:51

代码1复杂度：O（1）×n，即O（n）；代码2复杂度：O（1）×n+ O（1）×n=o（2n）,因此代码1效率更高？

作者回复

试试同时比较range(1000)和range(10000000)两种情况的结果

2019-05-20 15:10:28
Ryan

2019-11-08 12:05:12

实际测试：
import time

time1 = time.perf_counter()
s = ''
for n in range(0, 100000):
s += str(n)
print(time.perf_counter()-time1)

time2 = time.perf_counter()
l = []
for n in range(0, 100000):
l.append(str(n))
s = ' '.join(l)
print(time.perf_counter()-time2)

time3 = time.perf_counter()
s = " ".join(map(str, range(0, 10000)))
print(time.perf_counter()-time3)

=>
0.055303414000036355
0.033053977999998096
0.0020310749998770916

Why? 想看看老师解析下
hysyeah

2019-05-25 10:27:03

老师好，我对于下面这段话有些疑问。
自从 Python2.5 开始，每次处理字符串的拼接操作时（str1 += str2），Python 首先会检测 str1 还有没有其他的引用。如果没有的话，就会尝试原地扩充字符串 buffer 的大小，而不是重新分配一块内存来创建新的字符串并拷贝。

我看python的源码对ci此并没有原地扩充的操作，而是每次都会新建一个string 对象。能详细解释下吗？谢谢。
taoist

2019-05-21 18:04:18

def test1(n):
s = ''
for i in range(0, n):
s += str(i)

def test2(n):
l = [str(i) for i in range(0,n)]
s = ''.join(l)

def test3(n):
l = []
for i in range(n):
l.append(str(i))
s = ''.join(l)

def test4(n):
s = " ".join(map(str, range(0, n)))

if __name__ == '__main__':
import timeit
print(timeit.timeit('test1(100000)', setup='from __main__ import test1', number=1000))
print(timeit.timeit('test2(100000)', setup='from __main__ import test2', number=1000))
print(timeit.timeit('test3(100000)', setup='from __main__ import test3', number=1000))
print(timeit.timeit('test4(100000)', setup='from __main__ import test4', number=1000))

环境: Python3.7 Linux
用时短到长 test4 < test2 < test 1 < test3
join map 具有最好的性能, 列表生成器 + join 次之, += 慢一些，　append + join 最慢，可能是append 影响了 join 的性能开销。
enjoylearning

2019-05-20 08:44:22

join的效率要比拼接效率高，因为拼接会生成新的字符串对象