有一個大List集合,遍歷進行一些耗時操作,不能達到性能要求,查詢日志,單個任務雖然有不少數據庫和第三方API請求,比較耗時,但返回效率尚可,所以優先采用多線程方式進行處理并行請求數據庫和第三方API,因為處理完還要對list所屬的數據進行操作,所以,線程池多線程處理要等待全部處理完。
相關的代碼如下:
@Test
publicvoidtestTB()
{
Listlist=newArrayList>();
for(inti=0;i900;i++)
{
list.add("a");
}
ExecutorServicetouchWorker=Executors.newFixedThreadPool(4,newThreadFactoryBuilder().setNameFormat("touch-send-worker-%d").build());
intsize=list.size();
if(size>100)
{
intbatch=size%100==0?size/100:size/100+1;
for(intj=0;jintend=(j+1)*100;
if(end>size)
{
end=size;
}
ListsubList=list.subList(j*100,end);
touchWorker.execute(()->sleepTest(subList));
}
touchWorker.shutdown();
while(true)
{
if(touchWorker.isTerminated())
{
break;
}
}
}
else
{
sleepTest(list);
}
}
privatevoidsleepTest(ListsubList)
{
for(Stringi:subList)
{
try
{
//耗時操作
System.out.println("######"+i+"######"+Thread.currentThread().getName());
//Thread.sleep(1000*30);
}
catch(Exceptione)
{
e.printStackTrace();
}
}
}
void shutdown()
啟動一次順序關閉,執行以前提交的任務,但不接受新任務。若已經關閉,則調用沒有其他作用。
拋出:SecurityException - 如果安全管理器存在并且關閉,此 ExecutorService 可能操作某些不允許調用者修改的線程(因為它沒有保持RuntimePermission("modifyThread")),或者安全管理器的 checkAccess 方法拒絕訪問。
boolean isTerminated()
若關閉后所有任務都已完成,則返回true。注意除非首先調用shutdown或shutdownNow,否則isTerminated永不為true。返回:若關閉后所有任務都已完成,則返回true。
當然還有一種方法,是之前寫的,方法比上邊的臃腫了,不過會獲取返回結果進行處理:邏輯是獲取所有頁面的List,多線程遍歷List后,將所有頁面的違規詞查出發送郵件,代碼:
/**
*落地頁違規詞排查(多線程)。
*@return
*/
@Test
publicvoidgetViolationsLandpageByThreadPool(){
try{
landPageService.getViolationsLandpageByThreadPool("1年");
}catch(Exceptione){
e.printStackTrace();
}
}
//開始時間
longstart=System.currentTimeMillis();
/*Listlist=newArrayList();
for(inti=1;i<=?3000;?i++)?{
????list.add(i?+?"");
}*/
Listlist=landPageDao.getPageIdAndPath();
//初始化敏感詞庫對象
SensitiveWordInitsensitiveWordInit=newSensitiveWordInit();
//從數據庫中獲取敏感詞對象集合(目前先放在資源文件中,等以后比較多或者需要界面操作時再用數據庫)
//構建敏感詞庫
MapsensitiveWordMap=sensitiveWordInit.initKeyWord(vioKey);
//傳入SensitivewordEngine類中的敏感詞庫
SensitivewordEngine.sensitiveWordMap=sensitiveWordMap;
//每500條數據開啟一條線程
intthreadSize=11000;
//總數據條數
intdataSize=list.size();
//線程數
intthreadNum=dataSize/threadSize+1;
//定義標記,過濾threadNum為整數
booleanspecial=dataSize%threadSize==0;
/*list.parallelStream().forEach(url->{});*/
//創建一個線程池
ExecutorServiceexec=Executors.newFixedThreadPool(threadNum);
//定義一個任務集合
List>>tasks=newArrayList>>();
Callable>task=null;
ListcutList=null;
//確定每條線程的數據
for(inti=0;iif(i==threadNum-1){
if(special){
break;
}
cutList=list.subList(threadSize*i,dataSize);
}else{
cutList=list.subList(threadSize*i,threadSize*(i+1));
}
// System.out.println("第"+(i + 1)+"組:"+ cutList.toString());
finalListlistStr=cutList;
task=newCallable>(){
@Override
publicListcall()throwsException {
// System.out.println(Thread.currentThread().getName()+"線程:"+ listStr.get(0).getPageId());
Listresult=newArrayList();
for(LandPagelandPage:listStr){
LongpageId=landPage.getPageId();
Stringpath=landPage.getPath();
Integerversion=landPage.getVersion();
StringpageUrl=landPage.getPageUrl();
StringactualUser=landPage.getActualUser();
IntegerpageType=landPage.getPageType();
if(StringUtils.isNotBlank(path)){
//調用第一個方法,獲取html字符串
Stringhtml=httpRequest(path);
//調用第二個方法,獲取包含的違規詞
if(StringUtils.isNotBlank(html)){
html=html.replaceAll("","");
//Stringbuffer=htmlFiter2(html);
SetbufferSet=SensitivewordEngine.getSensitiveWord(html,1);//得到敏感詞有哪些,傳入2表示獲取所有敏感詞//sensitiveWordFiltering(html);
/*String[]word={"備案","錯過將延誤","僅需1980元"};
for(inti=0;i
String[]word={
"一年","1年學完","一年學完","1年內學完","一年內學完"
};
for(inti=0;iif (html.contains(word[i])){
bufferSet.add(word[i]);
}
}
if(null!=bufferSet&&bufferSet.size()>0){
StringsensitiveWord=bufferSet==null?null:bufferSet.toString();
if("[]".equals(sensitiveWord)){
sensitiveWord="";
}
LandPagepage=newLandPage();
page.setPageId(pageId);
page.setPath(path);
page.setVersion(version);
page.setDescription(sensitiveWord);
page.setPageUrl(pageUrl);
page.setActualUser(actualUser);
page.setPageType(pageType);
result.add(page);
System.out.println(pageUrl);
}
}
}
}
return(List)result;
}
};
//這里提交的任務容器列表和返回的Future列表存在順序對應的關系
tasks.add(task);
}
List>>results=exec.invokeAll(tasks);
Listresult=newArrayList();
for(Future>future:results){
result.addAll(future.get());
}
//關閉線程池
exec.shutdown();
System.out.println("線程任務執行結束");
System.err.println("執行任務消耗了:"+(System.currentTimeMillis()-start)+"毫秒");
System.out.println("共有###########"+list.size());
result就是需要發送郵件的相關結果了
審核編輯 :李倩
-
多線程
+關注
關注
0文章
279瀏覽量
21033 -
代碼
+關注
關注
30文章
4968瀏覽量
73989
原文標題:多線程快速處理 List 集合,你學會了嗎?
文章出處:【微信號:AndroidPush,微信公眾號:Android編程精選】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
【瑞薩RA × Zephyr評測】多線程和看門狗
解析Linux的進程、線程和協程
Linux多線程對比單線程的優勢
rt-thread studio 如何進行多線程編譯?
tcpip線程被mu0鎖住導致網絡線程無法使用怎么解決?
移植Nano板報錯error: #20: identifier “va_list” is undefined怎么解決?
啟用了控制臺后,空閑線程是不是永遠不會進入?
【HZ-T536開發板免費體驗】—— linux創建線程
??FourCastNet 3實現快速精準的大型集合天氣預報
多線程的安全注意事項
工控一體機多線程任務調度優化:聚徽分享破解工業復雜流程高效協同密碼
一種實時多線程VSLAM框架vS-Graphs介紹
List集合:多線程快速處理
評論