批处理新手入门导读[视频教程]批处理基础视频教程[视频教程]VBS基础视频教程
[批处理文件精品]批处理版照片整理器[批处理文件精品]纯批处理备份&还原驱动在线第三方下载
返回列表 发帖

[原创代码] powershell 网页爬虫获取时光网电影数据库续(并行处理)

前一篇讲到采用并行处理提高速度, 这个时候需要给前面的脚本传递参数, 而且要在前面的那个脚本《000___mtime_抓取电影网页-选数据-逗号分列.ps1》的第一行加入以下代码:
  1. param([int]$start_id_txt_param=$(throw "Parameter missing: -start_id_txt_param 3042"),   [int]$end_id_txt_param=$(throw "Parameter missing: -end_id_txt_param 3242"),     [int]$call_cnt=$(throw "Parameter missing: -call_cnt 132")      )
  2. $USING_PARAM_ENABLE=1
复制代码
将下面的代码保存为 《并行.ps1 》, 然后同样需要设置如下参数:
$start_index = 12500  # MAX mtime id now is 239000. 开始处理的文件 id
$step        = 5000                                                      并行处理的文件个数
$repeat_cnt  = 5                                                        需要启动多少个任务,这里是5 个
$end_index   = 240000 # MAX mtime id now is 239000.
  1. $throttleLimit = 5
  2. $iss = [system.management.automation.runspaces.initialsessionstate]::CreateDefault()
  3. $Pool = [runspacefactory]::CreateRunspacePool(1, $throttleLimit, $iss, $Host)
  4. $Pool.Open()
  5. $log_file="D:\迅雷下载\fork.log"
  6.   if((Test-Path $log_file))  {
  7.     Remove-Item $log_file
  8.   }
  9. $ScriptBlock = {
  10.     param($s,$e,$x)
  11.     #Start-Sleep -Seconds 2
  12. #[System.Console]::WriteLine("Processing XXX.ps1 -start_id_txt_param $s -end_id_txt_param $e -call_cnt $x")
  13.    
  14. D:\迅雷下载\000___mtime_抓取电影网页-选数据-逗号分列.ps1 -start_id_txt_param $s -end_id_txt_param $e -call_cnt $x
  15.    
  16. }
  17. $start_index = 12500  # MAX mtime id now is 239000.
  18. $step        = 5000
  19. $repeat_cnt  = 5
  20. $end_index   = 240000 # MAX mtime id now is 239000.
  21. if($start_index+$step *$repeat_cnt  -gt $end_index){
  22.   write-host "Error:" -ForegroundColor Red
  23.   write-host "Max mtime for now is 24000, you are using a number greater than 24000!!!" -ForegroundColor Red
  24.   cmd /c "pause"
  25.   exit
  26. }
  27. for ($x = 1; $x -le $repeat_cnt; $x++) {
  28.     $start=$start_index+($x-1)*$step
  29. $end=$start+$step
  30. write-host "Processing XXX.ps1 -start_id_txt_param $start -end_id_txt_param $end -call_cnt $x"  
  31. "Processing XXX.ps1 -start_id_txt_param $start -end_id_txt_param $end -call_cnt $x" |Out-File -Append $log_file
  32.     $powershell = [powershell]::Create().AddScript($ScriptBlock).AddArgument($start).AddArgument($end).AddArgument($x)
  33.     $powershell.RunspacePool = $Pool
  34.     $handle = $powershell.BeginInvoke()
  35. #cmd /c "pause"
  36. }
  37. $handle.IsCompleted
  38. cmd /c "pause"
复制代码
1

评分人数

返回列表