![](/img/trans.png)
[英]Is there a better way to concatenate continuous string elements in Python?
[英]Which is the preferred way to concatenate a string in Python?
由于无法更改 Python 的string
,我想知道如何更有效地连接字符串?
我可以这样写:
s += stringfromelsewhere
或者像这样:
s = []
s.append(somestring)
# later
s = ''.join(s)
在写这个问题时,我发现了一篇关于这个话题的好文章。
http://www.skymind.com/~ocrow/python_string/
但它在 Python 2.x. 中,所以问题是 Python 3 中是否有一些变化?
将字符串附加到字符串变量的最佳方法是使用+
或+=
。 这是因为它具有可读性和快速性。 它们也一样快,你选择哪一个是品味问题,后者是最常见的。 以下是timeit
模块的计时:
a = a + b:
0.11338996887207031
a += b:
0.11040496826171875
但是,那些建议使用列表并附加到它们然后加入这些列表的人这样做是因为与扩展字符串相比,将字符串附加到列表可能非常快。 在某些情况下,这可能是真的。 例如,这里是一个单字符字符串的一百万次追加,首先是一个字符串,然后是一个列表:
a += b:
0.10780501365661621
a.append(b):
0.1123361587524414
好的,事实证明,即使结果字符串有一百万个字符长,追加仍然更快。
现在让我们尝试将一千个字符长的字符串附加十万次:
a += b:
0.41823482513427734
a.append(b):
0.010656118392944336
因此,结束字符串的长度约为 100MB。 那很慢,附加到列表要快得多。 该时间不包括最终的a.join()
。 那么这需要多长时间?
a.join(a):
0.43739795684814453
哎呀。 事实证明,即使在这种情况下,追加/加入也较慢。
那么这个推荐是从哪里来的呢? 蟒蛇2?
a += b:
0.165287017822
a.append(b):
0.0132720470428
a.join(a):
0.114929914474
那么,附加/连接是稍快那里,如果你使用的是极长的字符串(这你平时都没有,你会拥有一个字符串,它是100MB内存?)
但真正的关键是 Python 2.3。 我什至不会向你展示时间,因为它太慢了,还没有完成。 这些测试突然需要几分钟。 除了 append/join,它和后来的 Python 一样快。
是的。 在石器时代,Python 中的字符串连接非常缓慢。 但是在 2.4 上它不再是(或者至少是 Python 2.4.7),所以使用 append/join 的建议在 2008 年已经过时了,当 Python 2.3 停止更新时,你应该停止使用它。 :-)
(更新:事实证明,当我更仔细地进行测试时,在 Python 2.3 上对两个字符串使用+
和+=
也更快。使用''.join()
的建议一定是一种误解)
然而,这是 CPython。 其他实现可能有其他问题。 这只是过早优化是万恶之源的另一个原因。 不要使用所谓“更快”的技术,除非您首先对其进行测量。
因此,进行字符串连接的“最佳”版本是使用 + 或 += 。 如果结果证明这对您来说很慢(这是不太可能的),那么请做其他事情。
那么为什么我在我的代码中使用了很多 append/join 呢? 因为有时它实际上更清楚。 特别是当您应该连接在一起的任何内容都应该用空格或逗号或换行符分隔时。
如果您要连接很多值,那么两者都不是。 附加列表是昂贵的。 您可以为此使用 StringIO。 尤其是当您通过大量操作构建它时。
from cStringIO import StringIO
# python3: from io import StringIO
buf = StringIO()
buf.write('foo')
buf.write('foo')
buf.write('foo')
buf.getvalue()
# 'foofoofoo'
如果你已经有一个完整的列表从其他操作返回给你,那么只需使用''.join(aList)
来自 python 常见问题解答: 将多个字符串连接在一起的最有效方法是什么?
str 和 bytes 对象是不可变的,因此将许多字符串连接在一起效率低下,因为每次连接都会创建一个新对象。 在一般情况下,总运行时间成本是总字符串长度的二次方。
要积累许多 str 对象,推荐的习惯用法是将它们放入一个列表中并在最后调用 str.join() :
chunks = [] for s in my_strings: chunks.append(s) result = ''.join(chunks)
(另一个相当有效的习惯用法是使用 io.StringIO)
要积累许多字节对象,推荐的习惯用法是使用就地连接(+= 运算符)扩展 bytearray 对象:
result = bytearray() for b in my_bytes_objects: result += b
编辑:我很傻,把结果向后粘贴,使它看起来像附加到列表比 cStringIO 快。 我还添加了对 bytearray/str concat 的测试,以及使用更大字符串的更大列表的第二轮测试。 (蟒蛇2.7.3)
大型字符串列表的 ipython 测试示例
try:
from cStringIO import StringIO
except:
from io import StringIO
source = ['foo']*1000
%%timeit buf = StringIO()
for i in source:
buf.write(i)
final = buf.getvalue()
# 1000 loops, best of 3: 1.27 ms per loop
%%timeit out = []
for i in source:
out.append(i)
final = ''.join(out)
# 1000 loops, best of 3: 9.89 ms per loop
%%timeit out = bytearray()
for i in source:
out += i
# 10000 loops, best of 3: 98.5 µs per loop
%%timeit out = ""
for i in source:
out += i
# 10000 loops, best of 3: 161 µs per loop
## Repeat the tests with a larger list, containing
## strings that are bigger than the small string caching
## done by the Python
source = ['foo']*1000
# cStringIO
# 10 loops, best of 3: 19.2 ms per loop
# list append and join
# 100 loops, best of 3: 144 ms per loop
# bytearray() +=
# 100 loops, best of 3: 3.8 ms per loop
# str() +=
# 100 loops, best of 3: 5.11 ms per loop
在 Python >= 3.6 中,新的f-string是连接字符串的有效方法。
>>> name = 'some_name'
>>> number = 123
>>>
>>> f'Name is {name} and the number is {number}.'
'Name is some_name and the number is 123.'
推荐的方法还是使用append和join。
你写这个函数
def str_join(*args):
return ''.join(map(str, args))
然后你可以在任何你想要的地方打电话
str_join('Pine') # Returns : Pine
str_join('Pine', 'apple') # Returns : Pineapple
str_join('Pine', 'apple', 3) # Returns : Pineapple3
正如@jdi 提到的,Python 文档建议使用str.join
或io.StringIO
进行字符串连接。 并说开发人员应该期望从循环中的+=
获得二次时间,即使自 Python 2.4 以来进行了优化。 正如这个答案所说:
如果 Python 检测到左参数没有其他引用,它会调用
realloc
以尝试通过调整字符串大小来避免复制。 这不是您应该依赖的东西,因为它是一个实现细节,并且因为如果realloc
最终需要频繁移动字符串,则性能无论如何都会降低到 O(n^2)。
我将展示一个真实世界代码的例子,它天真地依赖+=
这种优化,但它并不适用。 下面的代码将可迭代的短字符串转换为更大的块,以在批量 API 中使用。
def test_concat_chunk(seq, split_by):
result = ['']
for item in seq:
if len(result[-1]) + len(item) > split_by:
result.append('')
result[-1] += item
return result
由于二次时间复杂度,这段代码可以正常运行几个小时。 以下是具有建议数据结构的替代方案:
import io
def test_stringio_chunk(seq, split_by):
def chunk():
buf = io.StringIO()
size = 0
for item in seq:
if size + len(item) <= split_by:
size += buf.write(item)
else:
yield buf.getvalue()
buf = io.StringIO()
size = buf.write(item)
if size:
yield buf.getvalue()
return list(chunk())
def test_join_chunk(seq, split_by):
def chunk():
buf = []
size = 0
for item in seq:
if size + len(item) <= split_by:
buf.append(item)
size += len(item)
else:
yield ''.join(buf)
buf.clear()
buf.append(item)
size = len(item)
if size:
yield ''.join(buf)
return list(chunk())
还有一个微基准:
import timeit
import random
import string
import matplotlib.pyplot as plt
line = ''.join(random.choices(
string.ascii_uppercase + string.digits, k=512)) + '\n'
x = []
y_concat = []
y_stringio = []
y_join = []
n = 5
for i in range(1, 11):
x.append(i)
seq = [line] * (20 * 2 ** 20 // len(line))
chunk_size = i * 2 ** 20
y_concat.append(
timeit.timeit(lambda: test_concat_chunk(seq, chunk_size), number=n) / n)
y_stringio.append(
timeit.timeit(lambda: test_stringio_chunk(seq, chunk_size), number=n) / n)
y_join.append(
timeit.timeit(lambda: test_join_chunk(seq, chunk_size), number=n) / n)
plt.plot(x, y_concat)
plt.plot(x, y_stringio)
plt.plot(x, y_join)
plt.legend(['concat', 'stringio', 'join'], loc='upper left')
plt.show()
你可以用不同的方式来做。
str1 = "Hello"
str2 = "World"
str_list = ['Hello', 'World']
str_dict = {'str1': 'Hello', 'str2': 'World'}
# Concatenating With the + Operator
print(str1 + ' ' + str2) # Hello World
# String Formatting with the % Operator
print("%s %s" % (str1, str2)) # Hello World
# String Formatting with the { } Operators with str.format()
print("{}{}".format(str1, str2)) # Hello World
print("{0}{1}".format(str1, str2)) # Hello World
print("{str1} {str2}".format(str1=str_dict['str1'], str2=str_dict['str2'])) # Hello World
print("{str1} {str2}".format(**str_dict)) # Hello World
# Going From a List to a String in Python With .join()
print(' '.join(str_list)) # Hello World
# Python f'strings --> 3.6 onwards
print(f"{str1} {str2}") # Hello World
我通过以下文章创建了这个小总结。
虽然有些过时,但Code Like a Pythonista: Idiomatic Python建议在本节中使用join()
不是+
。 就像PythonSpeedPerformanceTips在其关于字符串连接的部分一样,具有以下免责声明:
本节的准确性在 Python 的后续版本中存在争议。 在 CPython 2.5 中,字符串连接相当快,尽管这可能不适用于其他 Python 实现。 有关讨论,请参阅 ConcatenationTestCode。
您也可以使用它(更有效)。 ( https://softwareengineering.stackexchange.com/questions/304445/why-is-s-better-than-for-concatenation )
s += "%s" %(stringfromelsewhere)
我的用例略有不同。 我必须构建一个查询,其中超过 20 个字段是动态的。 我遵循这种使用格式方法的方法
query = "insert into {0}({1},{2},{3}) values({4}, {5}, {6})"
query.format('users','name','age','dna','suzan',1010,'nda')
这对我来说相对简单,而不是使用 + 或其他方式
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.