背景
最近在做一个服务发现/注册的agent, 各个服务需要通过这个agent来注册自己的服务,在完成
开发后,测试性能时发现性能达不到要求,通过pprof 来确认cpu主要耗费在gc上,分析结果主要是由于字符串拼接导致,故需要测试一下字符串拼接的几种方法的性能;
字符串拼接的几种方法
1、直接使用加号进行拼接
2、strings.Join()
3、fmt.Sprintf()
4、bytes.Buffer
大量字符串拼接性能测试
我们使用的场景主要是大量字符串拼接,所以需要的场景是不断在字符串上拼接所以测试函数如下:
// fmt.Printf func BenchmarkFmtSprintfMore(b *testing.B) { var s string for i := 0; i < b.N; i++ { s += fmt.Sprintf("%s%s", "hello", "world") } fmt.Errorf(s) } // 加号 拼接 func BenchmarkAddMore(b *testing.B) { var s string for i := 0; i < b.N; i++ { s += "hello" + "world" } fmt.Errorf(s) } // strings.Join func BenchmarkStringsJoinMore(b *testing.B) { var s string for i := 0; i < b.N; i++ { s += strings.Join([]string{"hello", "world"}, "") } fmt.Errorf(s) } // bytes.Buffer func BenchmarkBufferMore(b *testing.B) { buffer := bytes.Buffer{} for i := 0; i < b.N; i++ { buffer.WriteString("hello") buffer.WriteString("world") } fmt.Errorf(buffer.String()) }
执行测试函数
~/gopath/src/test/string go test -bench="." goos: darwin goarch: amd64 pkg: test/string BenchmarkFmtSprintfMore-4 300000 118493 ns/op BenchmarkAddMore-4 300000 124940 ns/op BenchmarkStringsJoinMore-4 300000 117050 ns/op BenchmarkBufferMore-4 100000000 37.2 ns/op PASS ok test/string 112.294s
从上可以看出使用bytes.buffer的性能是非常高的,如果涉及到大量数据拼接推荐
bytes.buffer{}
单次字符串拼接性能测试
func BenchmarkFmtSprintf(b *testing.B) { for i := 0; i < b.N; i++ { s := fmt.Sprintf("%s%s", "hello", "world") fmt.Errorf(s) } } func BenchmarkAdd(b *testing.B) { for i := 0; i < b.N; i++ { s := "hello" + "world" fmt.Errorf(s) } } func BenchmarkStringsJoin(b *testing.B) { for i := 0; i < b.N; i++ { s := strings.Join([]string{"hello", "world"}, "") fmt.Errorf(s) } } func BenchmarkBuffer(b *testing.B) { for i := 0; i < b.N; i++ { b := bytes.Buffer{} b.WriteString("hello") b.WriteString("world") fmt.Errorf(b.String()) } }
执行测试函数
~/gopath/src/test/string go test -bench="." goos: darwin goarch: amd64 pkg: test/string BenchmarkFmtSprintf-4 10000000 200 ns/op BenchmarkAdd-4 20000000 93.6 ns/op BenchmarkStringsJoin-4 10000000 152 ns/op BenchmarkBuffer-4 10000000 175 ns/op PASS ok test/string 7.818s
从上可以看出单词调用字符串拼接性能 + > strings.Join > bytes.Buffer > fmt.Sprintf
总结
如果涉及到大量数据拼接推荐 bytes.buffer{}
后记
当然只是通过bytes.buffer{} 性能还是不够的,针对这个问题我们通过添加缓存进一步接口qps.
cpu 耗费在gc 上的原因,需要分析golang gc 回收机制, 这是另外一个topic, 之后总结。
补充:Go语言字符串批量拼接-StringBuilder
1.安装
go get -u github.com/typa01/go-utils
import ( "github.com/typa01/go-utils" )
使用,例:
fieldNames := tsgutils.NewInterfaceBuilder()
2.使用
func TestStringBuilderReplace(t *testing.T) { builder1 := NewStringBuilder() builder1.Append("%111%abc%987%") FmtPrintln(builder1.Replace("%", "$").ToString()) // $111$abc$987$ builder2 := builder1.Clear() builder2.AppendStrings("abc","defg").AppendInt(123).AppendFloat64(66.44).AppendStrings("aaa", "bbb", "&") FmtPrintln(builder2.RemoveLast().ToString()) // abcdefg1236.644E+01aaabbb str1 := NewString("123") builder3 := NewStringBuilderString(str1).Append("456") FmtPrintln(builder3.ToString()) // 123456 }
3.GitHub源码地址
https://github.com/typa01/go-utils
https://github.com/typa01/go-utils/blob/master/string_builder.go
以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。
golang,字符串拼接
《魔兽世界》大逃杀!60人新游玩模式《强袭风暴》3月21日上线
暴雪近日发布了《魔兽世界》10.2.6 更新内容,新游玩模式《强袭风暴》即将于3月21 日在亚服上线,届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。
艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕,并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时,他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中,玩家将会进入一个全新的海盗主题大逃杀式限时活动,其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场,作为一个独立于主游戏之外的活动,玩家可以用大逃杀的风格来体验《魔兽世界》,不分职业、不分装备(除了你在赛局中捡到的),光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式,玩家在加入海盗主题的预赛大厅区域前,可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹,《巨龙崛起》和《魔兽世界:巫妖王之怒 经典版》的玩家都可以获得奖励。