Jest możliwość pobrania obrazka przy pomocy Goutte przy pierwszym requescie ? obrazek to captcha generowana za każdym razem, i muszę ja pobrać na samym początku żeby nie różniła się podczas wypełniania formularza
#php #goutte
@jagoslau: Dzieki, ale już nie miałem sił ani ochoty się z tym męczyć i wszystkie scrapery przepisałem na node i puppeteer a z noda odwołuję się po api do aplikacji i działa ;)
  • Odpowiedz
#programowanie #php #dev

No dobra, dzisiaj muszę pobrać ze dane ze strony. Uzywam #symfony2 i #goutte
Mam już wszystko gotowe, skrypt działa i w ogóle. Problem jest taki że strona ma ogromną ilość podstron.
Np

Lista elementów:
|- Lista obiektów:
|- spis
|- spis
|- spis
|- Lista obiektów:
|- spis
|- spis
|- spis
|- Lista obiektów:
|- spis
|- spis
|- spis

więc wychodzi tego naprawdę dużo. Problem mam taki
@qwelukasz: Generalnie powinieneś pakować to w paczki (po powiedzmy 50 obiektów jeśli jeszcze tego nie robisz), a po flushu warto przeiterować po tych obiektach i zrobić na nich

$entityManager->detach($object);
Wtedy Garbage Collector będzie mógł od razu je zgarnąć i posprzątać, w innym przypadku siedzą w pamięci niepotrzebne obiekty.

edit: ewentualnie po flushu zrób $em->clear(); który #!$%@? wszystkie obiekty w EM
  • Odpowiedz
@qwelukasz: na devie system zbiera bardzo dużo informacji przydatnych do debugowania i za każdym razem przeładowuje konfiguracje, której nie #!$%@?. Zrób również php app/console cache:warmup --env=prod przed wykonaniem komendy. Znacznie przyspiesza całość aplikacji.
  • Odpowiedz