[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
" J3 t1 ~- c9 I; aimport os
import imagehash
2 t* ?7 L5 Q% B! |+ N2 i; V& `from PIL import Image

def compute_image_hash(image_path):
( x# A1 c5 |. c$ y  G" Q8 z3 r    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
    try:
        with Image.open(image_path) as image:
$ `" t$ `) z, F1 y' U            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
# n* U# @9 D9 s- t7 i- V        print(f"处理图像 {image_path} 时出错: {e}")
        return None
% b4 {# M6 [, Z
def remove_duplicates(image_folder):
$ a: j7 k: [6 D7 H/ l- O8 {! B% n8 X    hash_dict = {}
    duplicates = []
0 i" }; G/ X8 G7 A0 V4 w7 T
    for filename in os.listdir(image_folder):
, G6 U4 D3 Q* ^( \; [# ^5 [        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
* v/ v# U& f" Z8 W* h            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)
' P' s# ]& R8 Z& A2 L& T8 z: Z
            if image_hash in hash_dict:
) r9 G  r" n- N) @4 }. p; c, S8 o8 C                duplicates.append(image_path)
3 r  N6 h( j9 v5 f3 w- v            else:
                hash_dict[image_hash] = image_path
        else:
) {$ A3 y8 V4 @9 O' i            pass
1 l- W2 Y1 ~' l' z! w% H1 a- E
* _& S0 o; I  e/ n    for duplicate in duplicates:
        os.remove(duplicate)
5 ?0 L% m) q! N% ^7 |        print(f"Removed duplicate image: {duplicate}")

2 W3 X7 M5 W- n; {0 i" L6 q. I) N' ^    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
- K; \8 b% n* g+ y0 Y+ eremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
( Q7 z0 ]1 P4 h) s有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

) \: P9 {0 M! _1 ^' H/ ^" l5 i5 G* [一眼ai