КЛУБ СТОКОВЫХ ФОТОГРАФОВ, ИЛЛЮСТРАТОРОВ, ВИДЕОГРАФОВ и ИИ-ШНИКОВ

Текущее время: 07 06 2025, 21:24

Часовой пояс: UTC + 2 часа [ Летнее время ]




Начать новую тему Ответить на тему  [ Сообщений: 416 ]  На страницу Пред.  1 ... 14, 15, 16, 17, 18, 19, 20 ... 28  След.
Автор Сообщение
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 15:03 
Не в сети
Аватара пользователя

Зарегистрирован: 14 08 2007, 11:05
Сообщения: 1913
2 Chushkin

При выводе в сортировке по новым теоретически индекс может и не использоваться. Но как у них организовано практически - мне неизвестно. Но опять-таки, судя по тому, что процесс выдачи по новым - нестабилен, думаю никакого индекса по номеру фотки Шаттер не строит.

Он строит индексы по поисковым словам. Ну и для сортировки по Most Popular тоже, думаю, используется индекс. Создание этих индексов занимает значительное время.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 15:10 
Не в сети
Аватара пользователя

Зарегистрирован: 14 08 2007, 11:05
Сообщения: 1913
bezmaski писал(а):

предположим, появление и пропадание картинок в базе данных с интервалом в несколько часов было всегда, ну может не так выраженно. если я ничего не путаю, раньше индексация носила более менее регулярный характер и борьба шла только с проверкой. теперь проверка стала более предсказуемой, за то индексация взбесилась.



Update базы - добавление новых фоток - раньше проводился регулярно. Раз в сутки. Сейчас этот процесс стал менее регулярным. Время индексации по ключевым словам и по Most Popular - тоже увеличилось. Думаю это все связано с большой нагрузкой на сервера при добавлении новых фоток. Думаю, что они проводят теперь индексацию и апдейт, когда нагрузка на сервера минимальна. То есть если пошел вал фоток в субботу и воскресенье, то индексация будет проходить, тогда когда этот вал спадает, то есть в среду-четверг.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 15:19 
Не в сети
Аватара пользователя

Зарегистрирован: 24 08 2006, 15:08
Сообщения: 2482
Откуда: Мещёра, Центр, болото N3
lvinst писал(а):
При выводе в сортировке по новым теоретически индекс может и не использоваться. Но как у них организовано практически - мне неизвестно.

Я не думаю, что их программисты уж совсем ничего не понимают в теории баз данных. ;)

Цитата:
Но опять-таки, судя по тому, что процесс выдачи по новым - нестабилен, думаю никакого индекса по номеру фотки Шаттер не строит.

Всегда присутствует. Так называемый "первичный индекс(ключ)". Если вдруг нету - программиста в дворники! :)

Цитата:
Он строит индексы по поисковым словам. Ну и для сортировки по Most Popular тоже, думаю, используется индекс. Создание этих индексов занимает значительное время.

Это зависит от алгоритмов, которые они используют. В принципе да, просчёт коэфициентов и последующая переиндексация вей базы может занимать многие часы и даже многие дни, если база большая. Но в вообще можно сделать так, что всё будет работать в режиме реального времени - это зависит только от "крутости" их программёров/аналитиков.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 15:24 
Не в сети
Аватара пользователя

Зарегистрирован: 24 08 2006, 15:08
Сообщения: 2482
Откуда: Мещёра, Центр, болото N3
bezmaski писал(а):
на первый извечный вопрос - кто виноват - ответ очевиден: шаттерсток.

100%

Цитата:
второй вопрос сложнее - что делать?

Самое правильно, - SS надо нанять нормальных разработчиков ПО и переделать движок. Как минимум, в части работы с БД.
А мы ничего сделать не можем, кроме как попытаться угадать выкрутасы их движка сайта. :sad:


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 16:58 
Не в сети
Аватара пользователя

Зарегистрирован: 27 02 2007, 03:07
Сообщения: 1064
Откуда: Владивосток
По идее, добавление слов в базу и обновление соответствующих индексов делается очень быстро на тех объемах что есть у шутера. 80 тысяч фоток в неделю по 50 слов в каждой, это смехотворные объемы для современного железа. Даже для такой убогой БД как MySQL, которая очень медленна на вставке и обновлении данных, но очень быстра в выборке.
Большую проблему видимо представляют именно операции с самими файлами изображений, и их синхронизация между хранилищами и серверами составляющими кластер шаттерстока.
Все это происходит очевидно из-за того, что за 5 лет механизм шутера не претерпел серьезных изменений. Как взяли софт написанный каким-то студентом на коленке, так он и крутится. Сейчас вроде и деньги есть чтобы сделать нормально, но нет времени. Ибо любой простой (что неизбежно при переходе) - большие деньги, которые они не хотят терять. А мы за это расплачиваемся.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 18:35 
Не в сети
Модератор

Зарегистрирован: 05 02 2006, 21:07
Сообщения: 841
Откуда: Донецк
Кто нибудь засылал вектор 22го?
Сейчас ситуация вообще странная файла 20938*** нет в категории Vector, НО файл 20994*** есть. Как такое может быть?
Файлов между 20938447 и 20936290 просто нет. У меня 15 принятых векторов находятся в этом диапазоне. :(


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 21:25 
Не в сети
Аватара пользователя

Зарегистрирован: 22 11 2008, 20:20
Сообщения: 159
Откуда: Беларусь
В последние несколько дней мучаюсь вопросом, - кто нибудь засылал свои работы крутанув конект пару раз вокруг планеты и изменив айпишник (желательно на выглядящий аки американский)? Я это к тому, не является ли эта беда, большей частью, мерой отсекания нашей флудной и пиратской зоны, от благовоспитанных американцев?
Я допускаю что у меня параноя, но ведь тоже может быть реальностью? Просто когда сайт приносивший доход начинает приносить тебе по 50 центов в день (!), это может быть либо провакацией со стороны сайта, либо критической неисправностью системы (например последствием досатаки хакерья)...


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 21:40 
Не в сети
Модератор

Зарегистрирован: 05 02 2006, 21:07
Сообщения: 841
Откуда: Донецк
Меня тоже посещала такая мысль. Но я её гоню)))
Все равно проверить не могу.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 21:55 
Не в сети
Аватара пользователя

Зарегистрирован: 22 11 2008, 20:20
Сообщения: 159
Откуда: Беларусь
А чего сложного? Хакерского софта в нете - навалом. Да и айпишник подменить не сложно - максимум не пустят на сайт под левым айпи, а так, - ничего плохого сделать не смогут (это не противозаконно). Просто мне заниматься в пустую не хочется, вот и решил узнать, делал ли кто-то такое или нет?!


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 21:59 
Не в сети
Аватара пользователя

Зарегистрирован: 14 08 2007, 11:05
Сообщения: 1913
Chushkin писал(а):
Всегда присутствует. Так называемый "первичный индекс(ключ)". Если вдруг нету - программиста в дворники! :)


С теоретической точки зрения к первичному ключу не выдвигается никаких требований по упорядоченности данных в таблице. Он должен быть уникальным для каждой записи в таблице. А индексировать это поле или нет - зависит от конкретной реализации.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 25 11 2008, 22:04 
Не в сети
Аватара пользователя

Зарегистрирован: 14 08 2007, 11:05
Сообщения: 1913
Ice-Storm писал(а):
В последние несколько дней мучаюсь вопросом, - кто нибудь засылал свои работы крутанув конект пару раз вокруг планеты и изменив айпишник (желательно на выглядящий аки американский)?


А при чем тут айпишник. У Вас в профиле страна проживания указывается. Если бы была какая-то дискриминация по продажам неамериканцев, то информации из профиля достаточно, чтобы отсечь нужных людей.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 26 11 2008, 03:28 
Не в сети
Модератор
Аватара пользователя

Зарегистрирован: 11 01 2007, 15:22
Сообщения: 3621
Откуда: USA, Москва
Благодаря тормознутой индексации мои последние фотки с понедельника висят более-менее наверху, что радует устойчивыми продажами :) Однако, в связи с грядущим в четверг и пятницу сексгивингом я бы не рекомендовал грузить новые фотки до выходных.


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 26 11 2008, 05:49 
Не в сети
Аватара пользователя

Зарегистрирован: 11 12 2007, 12:23
Сообщения: 803
Откуда: China, Beijing
батч с воскресения проиндексировали пару часов назад... понедельник-вторник ушли в "никуда"...


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 26 11 2008, 07:31 
Не в сети
Site Admin
Аватара пользователя

Зарегистрирован: 17 01 2004, 03:55
Сообщения: 17130
Откуда: Деревушка Стокеров
Проиндексировали принятые в понедельник. Принятые вчера (вторник) в категориях не видны :(


Вернуться к началу
 Профиль  
Ответить с цитатой  
 Заголовок сообщения: Re: ПРОБЛЕМЫ С ИНДЕКСАЦИЕЙ
СообщениеДобавлено: 26 11 2008, 09:08 
Не в сети
Модератор

Зарегистрирован: 05 02 2006, 21:07
Сообщения: 841
Откуда: Донецк
VIDOK писал(а):
Кто нибудь засылал вектор 22го?
Сейчас ситуация вообще странная файла 20938*** нет в категории Vector, НО файл 20994*** есть. Как такое может быть?
Файлов между 20938447 и 20936290 просто нет. У меня 15 принятых векторов находятся в этом диапазоне. :(


Неужели только у меня такая беда?


Вернуться к началу
 Профиль  
Ответить с цитатой  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 416 ]  На страницу Пред.  1 ... 14, 15, 16, 17, 18, 19, 20 ... 28  След.

Часовой пояс: UTC + 2 часа [ Летнее время ]


Кто сейчас на конференции

Сейчас этот форум просматривают: pretty2020 и гости: 0


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения

Найти:
Перейти:  







???????@Mail.ru



Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB