街景主观感知全流程(自建数据集+两两对比程序+Trueskill计算评分代码+训练模型+大规模预测)20
目录
- 0、Emeditor软件
- 1、Place Pluse 2.0数据集
- 2、街景主观感知大框架
- 2.1 街景主观感知:自建数据集
- 2.2 街景主观感知:两两对比程序
- 2.3 街景主观感知:Trueskill评分
- 2.4 街景主观感知:训练模型,Resnet或EfficientNet或VIT等
- 2.5 街景主观感知:大规模预测
- 11、其他数据处理/程序/指导!!!
优势:全网最全最细!
1、从数据原理到应用给你讲清楚。
2、专注于城市研究。
邮箱:邮箱已设置自动回复!!不看私信,没精力看。437969428@qq.com
不用发邮箱,见下方链接文档末尾!
【腾讯文档】10 其他数据_代码_指导 详细介绍
【腾讯文档】10 其他数据_代码_指导 详细介绍
https://docs.qq.com/doc/DVUNDdXRQanhIa3Z0
0、Emeditor软件
看大文件的tsv或者csv,Excel打不开,notepad打开也会卡死,用Emeditor破解版看非常方便,所以我经常用Emeditor看数据。
1、Place Pluse 2.0数据集
Place Pulse 2.0 是一个通过众包方式收集城市街景感知数据的开源项目,旨在研究人们对城市环境的主观感受,例如安全性、美观性和活力。该数据集收集了全球50多个地区的11万张街景图片,并通过众包平台让参与者对这些图片在六个不同的感知维度上进行评分。这些感知维度包括:safer,livelier,more boring,wealthier,more depressing,more beautiful。
虽然place pluse 2.0数据集有十几万张照片,但是实际每个维度中每张图片对比次数超过XX次的并不多,为什么要超过XX次甚至比XX次更多,是因为Trueskill想要得到稳定结果,要对比xx-xx次甚至更多,具体次数记不清了,在之前看的某篇文章中
我自己用place pluse2.0数据集ResNet101训练了beautiful维度,结果很差,我也试了别的模型,效果同样很差,只有选哪些对比次数高的图片训练,模型精度才会高一些,但是当我用来预测深圳的街景时,就发现预测的一塌糊涂,盲猜主要原因在于国内外街景差异大的,下面放几张对比图自己看一下吧,所以我就自己写两两对比程序,计算Trueskill,训练模型。
当然也不排除我模型有问题导致的结果不好!但我总感觉自建数据集会更好,研究某个城市,数据集中的街景相似程度高,预测同样的街景效果会更好
2、街景主观感知大框架
2.1 街景主观感知:自建数据集
自己手动筛选图片到一个文件夹,即图片数据集。
街景图采用四个方向的图片,全景图切分成四方图就行。
筛选依据:
- 建议筛500张图片,我之前数据集420张也够实验了。
- 建议筛选front方向,即车头方向。Back和front相对,两个差不多,就选front。Left,right没什么意义,你看一下就知道了。
你也可以筛选一些back,left,right方向丰富样本。
2.2 街景主观感知:两两对比程序
核心设计思想+代码解析,略。
红色方框内可自定义,修改位置图略。
代码修改:以03 两两图片对比GUI more beautiful.py为例
1、改路径
2、改图片出现次数
略。
修改完直接运行python文件。没有弹窗的话,看下电脑底部,见图。
一些注释点:
1、对比结果会实时保存,对比一次,保存一次,程序之所以能判断图片出现了多少次,是每次对比之前都会检索结果cSV统计每张图片出现次数。程序有一点卡卡的是正常的,是因为每次对比前都要进行检索。
2、可视化界面,可关闭,重新打开后会继续从上次的位置开始。
关闭前图略
重新打开后图略
3、剩余对比次数!!!这里不是真实的对比次数,随着对比次数增加,当某张图超过20次,所有这张图的未对比行都将删除。前期数值变化就是减一,后期图片超过20次,删所有待对比行,会大幅下降。
4、代码详细逻辑,打断点调试。
5、当Remaining comparisons小于3还是2的时候,不管怎么对比,Remaining comparisons不再减少,此时不用对比了,程序的一个小小bug,因为当初只是自己用,就没修复这个bug。
6、没有撤销按钮,错几个无所谓。或者你介意的话,找到对应的结果csv,比如“100 两两对比的结果more_beautiful.csv”,最后一行就是刚刚对比的结果,删去最后一行,保存,关闭文件!继续进行对比,GUI界面不用关。
对比后的结果csv,winner列就是谁赢谁输(left,right,equal表示平局)
其他略。
2.3 街景主观感知:Trueskill评分
2.4 街景主观感知:训练模型,Resnet或EfficientNet或VIT等
多模型选择,选择适合自己的模型。
模型结果:
2.5 街景主观感知:大规模预测
分割线
11、其他数据处理/程序/指导!!!
详细介绍见下方链接:
【腾讯文档】10 其他数据_代码_指导 详细介绍
【腾讯文档】10 其他数据_代码_指导 详细介绍
https://docs.qq.com/doc/DVUNDdXRQanhIa3Z0
-
全国百度热力图数据。百度热力图数据获取,原理,处理及论文应用-CSDN博客 。
-
OSM路网简化教程。OSM路网简化文档+实操视频讲解(道路中心线提取、拓扑检查,学术论文处理方式)
-
功能混合度计算教程。功能混合度计算全流程(原理讲解+软件实操)
-
街景语义分割后像素提取+指标计算代码(绿视率、天空开阔度、界面围合度、视觉熵/景观多样性等),含详细说明文档。deeplabv3+街景图片语义分割,无需训练模型,看不懂也没有影响,直接使用,cityscapes数据集。
-
街景主观感知两两对比程序+TrueSkill计算beautiful、safer等维度主观感知评分(原理,代码),均含详细说明文档。街景两两对比程序,Trueskill计算评分代码,训练模型,预测街景
-
街景主观感知训练,预测模型(beautiful, safer等自定义维度),多模型对比(ResNet50,ResNet101,EfficientNet、VGGNet、GoogleNet、DenseNet、MobileNet、ShuffleNet、Xception、ConvNeXt、Vision Transformer (ViT)、RegNet等),beautiful和safer维度精度均达到0.89。街景两两对比程序,Trueskill计算评分代码,训练模型,预测街景。
-
多模型(含全部树模型)分类回归精度结果对比(回复审稿人意见之:为什么选某个模型?比如为什么选XGBoost?)。
回归模型:线性模型(Linear、Ridge 、Lasso、Huber 、Partial Least Squares),KNN,SVR,树模型(Decision Tree、RF、AdaBoost 、GBDT、XGBoost、LightGBM 、CatBoost )。可自定义增加。 分类模型:Logistic Regression、Naive Bayes、KNN、SVM、树模型(Decision Tree、RF、AdaBoost 、GBDT、XGBoost、LightGBM 、CatBoost )可自定义增加。
-
树模型-SHAP分析,上一步选模型,这一步用模型进行分析。
-
全国街景数据获取。
-
街景图片色彩聚类。
-
MIT Place Pulse 2.0数据集
-
街景全景图切分六面视图(含数据处理教程,可批量处理)
-
GCN用于街道研究,如GCN实现街道功能分类。
-
POI数据,重分类,各种密度,各种比例,功能混合度/熵/多样性计算。
-
建筑物各种指标计算(建筑密度,容积率)。
-
2019-2024年最新全国四级行政区划矢量数据shp 省市县乡镇
-
全国村级行政区划shp数据,村级矢量行政区划界线!
-
GIS相关处理,指标计算,街道街区相关,活力相关,街道品质相关。